II.9Статистика, эксперименты и причинный анализ

EleutherAI/pythia-14m-seed9 — авторегрессионная языковая модель из набора PolyPythias, созданного командой EleutherAI для изучения стабильности обучения и воспроизводимости. Это вариант Pythia-14M с девятым случайным seed; архитектура GPT-NeoX, 8 млн параметров по метаданным и контекст до 2048 токенов. Модель обучалась предсказывать следующий токен на корпусе The Pile. Модель подходит для исследовательских экспериментов с генерацией текста, анализом влияния случайного seed и сравнением результатов обучения. Это базовая, не настроенная на выполнение инструкций модель; в первую очередь рассчитана на английский язык. По карточке, обучающие данные включают разнородные интернет-тексты, поэтому генерации могут содержать предвзятые, оскорбительные или фактически неверные сведения; фильтрации безопасности нет. Лицензия — Apache-2.0; авторы не рекомендуют использовать модель в производственных системах.

EleutherAI/pythia-70m-seed9 — базовая авторегрессионная языковая модель из серии PolyPythias, разработанной EleutherAI для систематического изучения стабильности и воспроизводимости обучения. Модель построена на плотной архитектуре GPT-NeoX, содержит 50,9 млн параметров и принимает последовательности длиной до 2048 токенов. Модель предварительно обучена предсказывать следующий токен на корпусе The Pile; вариант seed9 использует отдельное случайное зерно обучения. Она предназначена прежде всего для исследовательских экспериментов, воспроизведения обучения и сравнения влияния случайных зерен, а также для генерации продолжений английского текста. Это базовая, не настроенная на инструкции модель, поэтому она не рассчитана на диалоговое следование запросам. Модель обучалась преимущественно на английском тексте и не имеет фильтрации выходов; сгенерированный текст может быть предвзятым, оскорбительным или фактически неверным. Лицензия — Apache-2.0.

Это экспериментальный чекпойнт Qwen3.5-2B, созданный Shirasko методом машинного забывания RMU на базе Qwen/Qwen3.5-2B. Он предназначен для генерации текста в диалогах с ослабленным воспроизведением сведений о культуре Греции. Модель содержит 1,7 млрд параметров, использует плотную архитектуру Qwen3_5ForCausalLM, распространяется в формате safetensors и рассчитана на контекст до 262 144 токенов. В метаданных указана поддержка английского языка. Проверки на отложенной выборке показывают ограниченный эффект забывания: efficacy составляет 0,439, specificity — 0,54, а точность QA после обработки — 0,48. Результаты указывают, что удаление целевых знаний неполное и может затрагивать другие ответы. Лицензия в предоставленных данных не указана.

raceBERT — модель классификации текста на основе RoBERTa, опубликованная Прасанной Парасурамой. Она предсказывает расовую категорию США по переписной классификации на основе имени человека; репозиторий проекта также описывает отдельную модель для предсказания этнической категории. Модель содержит около 57 млн параметров, использует архитектуру RobertaForSequenceClassification и рассчитана на входы длиной до 100 токенов. Модель предназначена для исследовательского и прикладного анализа имен, например для оценки распределения расовых категорий в наборах имен. Она выдаёт одну из пяти категорий: неиспаноязычные белые, латиноамериканцы, неиспаноязычные чернокожие, азиаты и жители тихоокеанских островов, американские индейцы и коренные жители Аляски. По карточке Hugging Face и репозиторию разработчика языковая специализация явно не описана. Данные о лицензии в доступных источниках не подтверждены.

Это исследовательский чекпойнт семейства Llama, созданный сжатия Llama-2-7b-chat методом SVD-LLM. По данным README, удалено 10% параметров, а бюджет восстановленных SVD-компонентов равен 0%; модель содержит 6,6 млрд параметров и имеет контекст 4096 токенов. Она предназначена для изучения влияния сжатия на безопасность и полезность диалоговой языковой модели, а также для сравнения показателей отказа и успешности атак. README приводит результаты на AdvBench, StrongREJECT и WildGuard. Это экспериментальный объект исследования, а не универсальный чат-ассистент; автор рекомендует самостоятельно оценивать его перед использованием. Лицензия — Llama 2.

Это исследовательский чекпойнт на основе диалоговой модели Llama 2 7B Chat от Meta. Его сжали методом Basis Sharing: общие базисы используются для групп из двух соседних слоёв, а число параметров уменьшено на 50%. Затем к чекпойнту применили 6 из 10 раундов итеративного параметрически нейтрального обмена параметрами по правилу swapdiscnet_iter. Модель создана для исследования того, как SVD-сжатие влияет на безопасность и полезность ответов, и для сравнения способов восстановления поведения безопасности. Это не универсальный чат-ассистент. В README приведены результаты тестов безопасности, включая долю успешных атак и чрезмерных отказов; их следует оценивать в контексте эксперимента. Контекст — 4096 токенов, размер — 6,6 млрд параметров, формат весов — safetensors. Для использования действует лицензия Llama 2.

Это исследовательский чекпойнт Jeesup на базе диалоговой модели Meta Llama 2 Chat с 7 млрд параметров. Модель с архитектурой Llama была сжата методом Basis Sharing: общие базисы используются для групп из двух соседних слоёв, что сократило число параметров примерно до 50% от исходного. Затем к ней применили семь из десяти раундов итеративной замены параметров по правилу swapgapnet_iter. Чекпойнт создан для изучения того, как SVD-сжатие влияет на безопасность ответов и какие правила выбора параметров помогают восстановить её. В README приведены результаты оценок на AdvBench, StrongREJECT и WildGuard. Это отдельная точка экспериментальной серии, а не универсальный чат-ассистент; использовать её следует для анализа компромиссов между безопасностью и полезностью и самостоятельной оценки. Контекст — до 4096 токенов. Лицензия — Llama 2.

Это исследовательский чекпойнт на основе диалоговой Llama 2 Chat от Meta, сжатый методом SVD-LLM и затем изменённый в ходе десяти раундов итеративной замены параметров по правилу gap_iter. В модели около 6,6 млрд параметров; удалено около 20% параметров, а бюджет замен составлял до 1% исходного числа параметров. Архитектура — плотная LlamaForCausalLM; формат весов — safetensors, контекст — 4096 токенов. Чекпойнт создан для исследования влияния сжатия на безопасность и полезность ответов, а также для оценки восстановления поведения после сжатия. Его можно применять в экспериментах по генерации текста и диалоговой оценке, но авторы не считают его универсальным чат-ассистентом или готовой к развёртыванию моделью. В README приведены показатели тестов безопасности и предупреждение, что некоторые варианты в серии намеренно демонстрируют ухудшенное поведение; модель следует самостоятельно оценивать перед интерпретацией результатов. Лицензия — Llama 2 Community License.

Это исследовательский чекпойнт на основе диалоговой модели Meta Llama 2 7B Chat, разработанный для изучения влияния сжатия на безопасность и полезность языковых моделей. Плотные параметры исходной модели сжаты методом SVD-LLM до 80% исходного числа, после чего выполнены 2 из 10 раундов итеративной перестановки параметров по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации ответов; контекст — до 4096 токенов. Модель предназначена для измерения компромиссов между сжатием и безопасностью, сравнения правил выбора компонентов и анализа восстановления поведения после сжатия. В карточке приведены результаты на AdvBench, StrongREJECT и WildGuard. Это отдельная экспериментальная точка исследовательской сетки, а не универсальный чат-ассистент; некоторые варианты эксперимента намеренно ухудшают безопасность. Перед использованием в оценках следует учитывать риск деградации отказов и самостоятельно проверять результаты. Лицензия — Llama 2.

Это исследовательский чекпойнт Jeesup на основе диалоговой Llama-2-7b-chat от Meta, созданный для изучения того, как сжатие влияет на безопасность ответов и как её можно восстановить. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст; контекст — до 4096 токенов. Веса сжаты методом SVD-LLM: удалено около 40% параметров, после чего выполнены 2 из 10 раундов перестановки параметров по правилу disc_iter. Чекпойнт предназначен для измерения компромиссов между безопасностью и полезностью сжатой модели, а не для использования как универсальный чат-ассистент. В README приведены показатели атак на безопасность и чрезмерных отказов; авторы отмечают, что сжатие может повысить успешность атак. Модель поддерживает диалог на английском языке. Лицензия — Llama 2; перед использованием необходимо соблюдать её условия.

Экспериментальный контрольный пункт исследования Jeesup: диалоговая модель на базе Llama-2-7b-chat, сжатая методом SVD-LLM примерно до 60% плотных параметров и затем частично изменённая итеративным обменом параметров по правилу disc_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, формат safetensors и контекст до 4096 токенов. Чекпойнт предназначен для изучения того, как сжатие влияет на безопасность и полезность ответов, а также для измерения эффекта правил восстановления поведения. В README приведены метрики атак на AdvBench и StrongREJECT и показатель избыточного отказа WildGuard. Это экспериментальная ячейка исследования, а не универсальный ассистент; модель унаследовала лицензию Llama 2 от базовой модели.

Jeesup/svd-safety-l2_remove50_swapdisciter_b010 — экспериментальный чекпойнт, созданный для измерения компромисса между безопасностью и полезностью диалоговых языковых моделей при сжатии. Он основан на meta-llama/Llama-2-7b-chat-hf и получен методом SVD-LLM с удалением 50,01% параметров по правилу disc_iter. Модель имеет архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров, принимает текст и генерирует текст; контекст — до 4096 токенов. Карточка приводит метрики атак на безопасность и чрезмерных отказов, включая долю успешных атак AdvBench 0,0115, StrongREJECT 0,0735 и показатель чрезмерных отказов WildGuard 0,4240. Чекпойнт предназначен для исследования влияния сжатия и проверки методов восстановления безопасности, а не для использования как готовый ассистент. Языковые сведения карточки указывают на английский язык базовой модели. Лицензия — Llama 2 Community License.

Jeesup/svd-safety-l2_swift_remove50 — исследовательский чекпойнт на основе диалоговой Llama 2 7B Chat от Meta, сжатый методом Swift-SVD до примерно половины исходного числа параметров и восстановленный дообучением LoRA из проекта SVD-LLM. Модель предназначена для экспериментов по оценке того, как сжатие влияет на безопасность ответов и насколько последующее восстановление меняет это поведение; это отдельная конфигурация в серии испытаний, а не универсальный чат-ассистент. Модель использует плотную архитектуру LlamaForCausalLM, содержит около 6,6 млрд параметров и принимает текст для генерации текста. Контекст — до 4096 токенов. Базовая модель рассчитана на диалог на английском языке. В README приведены оценки успешности атак 0,4250 на AdvBench и 0,3099 на StrongREJECT, а также показатель избыточных отказов 0,2106 на WildGuard; результаты указывают на экспериментальное исследование компромисса между безопасностью и полезностью. Лицензия — Llama 2; перед использованием следует соблюдать её условия.

Это исследовательский чекпойнт на базе Meta Llama 3.1 8B Instruct, сжатый методом SVD-LLM: удалено 49,90% параметров, до 50,1% плотной модели, после чего восстановлено 0,1% параметров по правилу gap. Модель разработана для изучения того, как сжатие влияет на безопасность и полезность языковых моделей и насколько разные способы восстановления компонентов меняют это поведение. Чекпойнт предназначен для экспериментов и сравнительной оценки, а не для общего чат-ассистента. В README приведены результаты проверок безопасности на AdvBench, StrongREJECT и WildGuard. Сжатие может ухудшить защитное поведение; карточка предупреждает, что отдельные варианты в исследовательской сетке намеренно имеют ослабленную безопасность. Модель имеет архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров, работает с текстом и поддерживает контекст до 131072 токенов. Метаданные указывают лицензию llama3.1; перед использованием следует учитывать её условия. Результаты и свойства этого экспериментального чекпойнта не следует переносить на исходную Llama 3.1 8B Instruct.

Это экспериментальный контрольный чекпойнт на основе Meta Llama 3.1 8B Instruct, разработанный как часть исследования влияния сжатия на безопасное поведение языковых моделей. Веса сжаты методом SVD-LLM: удалено 40,02% параметров, а затем применён один раунд параметрически нейтральной перестановки компонентов по правилу gap_iter. Модель содержит около 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст для генерации текста; заявленный контекст — до 131 072 токенов. Модель предназначена для измерения компромиссов между сжатием, полезностью и безопасностью, а не для обычного диалога или развёртывания в качестве ассистента. В карточке приведены результаты оценок атак и чрезмерных отказов на AdvBench, StrongREJECT и WildGuard. Исследование указывает, что сжатие может повышать успешность атак, поэтому результаты конкретного чекпойнта следует рассматривать как экспериментальные. Использование регулируется лицензией Llama 3.1.

Это исследовательский чекпойнт на основе Llama-3.1-8B-Instruct от Meta, сжатый методом SVD-LLM примерно до половины исходного числа параметров, а затем изменённый в пяти из десяти раундов итеративной перестановки параметров по правилу gap_iter. Модель содержит около 7,5 млрд параметров, использует архитектуру Llama для генерации текста и поддерживает контекст до 131 072 токенов. Чекпойнт создан для изучения того, как SVD-сжатие влияет на безопасное поведение модели и могут ли правила выбора компонентов восстановить его. Он предназначен для сравнительных экспериментов и оценки компромиссов между безопасностью и полезностью, а не для работы в роли универсального чат-ассистента. В README приведены измерения на наборах AdvBench, StrongREJECT и WildGuard. README сообщает, что сжатие повышает долю успешных атак и что отдельные варианты эксперимента намеренно уступают исходной модели по безопасности. Поэтому результаты этого чекпойнта следует оценивать как экспериментальные; перед практическим использованием требуется самостоятельная оценка. Репозиторий распространяется по лицензии Llama 3.1.

Это исследовательский чекпойнт Jeesup на основе Meta-Llama-3-8B-Instruct, сжатый методом SVD-LLM примерно до половины исходного числа параметров и обработанный восемью раундами параметрически нейтральной перестановки параметров по правилу gap_iter. Модель использует плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и принимает текст; её контекстное окно составляет 8192 токена. Веса представлены в формате safetensors. Чекпойнт создан для изучения того, как сжатие влияет на безопасное поведение модели и могут ли выбранные правила отбора параметров восстановить его. README приводит результаты оценок на AdvBench, StrongREJECT и WildGuard, включая показатель чрезмерного отказа; эти результаты относятся к конкретной экспериментальной конфигурации. Модель не предназначена для использования как универсальный чат-ассистент или для развёртывания без самостоятельной оценки. Исследование отмечает, что варианты в серии могут иметь ухудшенное поведение безопасности. Языковые возможности наследуются от базовой модели, для которой метаданные указывают английский язык. Лицензия — Llama 3 Community License.

Это исследовательский чекпойнт на основе диалоговой модели Meta-Llama-3-8B-Instruct, сжатый методом SVD-LLM: удалено 30% параметров относительно плотной модели. Вариант создан для изучения того, как SVD-сжатие влияет на безопасность и полезность ответов и как восстановление отдельных компонент меняет эти показатели. Согласно README, восстановленным компонентам выделен бюджет 0%, а правило их выбора обозначено как unknown. Модель предназначена для экспериментального сравнения показателей безопасности и полезности сжатых языковых моделей, а не для использования как универсальный чат-ассистент. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Это текстовая генеративная модель семейства Llama с контекстом 8192 токена; метаданные указывают 7,5 млрд параметров и формат safetensors. README предупреждает, что сжатие может ухудшать защиту от вредоносных запросов, а отдельные варианты эксперимента намеренно имеют сниженную безопасность. Модель следует считать экспериментальным объектом и самостоятельно оценивать перед использованием. Лицензия — Llama 3.

Это контрольная точка VLADrop на базе OpenVLA-OFT, подготовленная для исследования «Drop-Then-Recovery: How Redundant Are Vision-Language-Action Models?». Модель предназначена для предсказания действий робота по визуальному наблюдению и языковому контексту, в частности для оценки на задачах LIBERO. В чекпойнте сохранены слои MHA, а MLP-подслои удалены в 16 нечётных слоях 32-слойного Llama 2 backbone. После удаления модель прошла восстановительное дообучение с LoRA ранга 32, затем веса адаптера были объединены. Конфигурация содержит списки удалённых слоёв для автоматического восстановления сокращённого графа при оценке. Для запуска требуется модифицированная библиотека transformers-openvla-oft-dropped. Лицензия — MIT.

AhmetcanYvz/comp-vs-like-1B-unigramlm-128k — плотная авторегрессионная языковая модель семейства Llama, созданная для исследования токенизации в работе «Objective vs. Search: Decomposing What Makes a Good Tokeniser». Модель содержит около 1,2 млрд параметров; в архитектуре 22 слоя, размер скрытого представления 2048, 32 головы внимания и 4 KV-головы. Она обучена на 20 млрд токенов корпуса FineWeb-Edu на английском языке с токенизатором UnigramLM размером словаря 128 000 токенов. Контекст — 2048 токенов. Модель предназначена для генерации текста и сравнительных экспериментов с токенизаторами: авторы коллекции указывают, что модели отличаются только токенизатором, чтобы сравнивать их влияние на bits-per-byte и BLiMP. Это базовая языковая модель, не настроенная на выполнение инструкций. Она выпущена под лицензией MIT, однако в карточке отмечено, что модель создана для исследования токенизации, не предназначена для развёртывания и не прошла фильтрацию на безопасность.

NVIDIA Ising Calibration 1.5 31B BF16 — мультимодальная модель NVIDIA для анализа изображений графиков калибровочных экспериментов в квантовых вычислениях. Она дообучена на базе плотной модели google/gemma-4-31b и сочетает обработку изображений с генерацией текста. Размер модели составляет около 31 млрд параметров; формат весов — BF16 safetensors. Модель принимает текстовые запросы и одно или несколько изображений графиков, а в ответ формирует технический анализ: описание эксперимента, выводы и их значимость, оценку качества подгонки, извлечение параметров и классификацию успешности эксперимента. Она предназначена для исследователей квантовых вычислений, инженеров по калибровке и разработчиков автоматизированных или вспомогательных калибровочных процессов. В карточке указаны коммерческое применение и запуск через NVIDIA NIM с бэкендом vLLM; лицензия обозначена как other, поэтому перед внедрением следует проверить её условия. Обучение проводилось на синтетических текстовых и визуальных данных, включая 72,5 тысячи обучающих примеров. Оценка на QCalEval охватывает задачи анализа калибровочных графиков, извлечения параметров и классификации статуса калибровки, но не является широкой оценкой общих возможностей. Выводы и извлечённые значения следует проверять с экспертами предметной области; модель рассчитана на GPU NVIDIA, а в карточке указана совместимость с Blackwell и Hopper.

Ahmed-elbarbary/kronos-small-egx — дообученная версия Kronos-small, созданная Ahmed Elbarbary для прогнозирования дневных биржевых временных рядов Египетской биржи (EGX). Она принимает последовательность из 90 прошлых свечей и предназначена для выдачи прогноза на следующие 20 торговых сессий. При обучении для нормализации использовались только прошлые свечи, чтобы устранить унаследованную склонность исходной модели возвращать прогноз к среднему значению окна. Модель предназначена для исследований прогнозирования на малоликвидном развивающемся рынке и проверки результатов в сравнении с простыми базовыми методами. Автор сообщает, что модель устранила выраженную склонность исходной Kronos-small к возврату к среднему, однако улучшение точности прогнозов не доказано: результаты проверок неоднозначны, а на отдельных горизонтах модель уступала исходной версии. Чекпойнт соответствует последней, десятой эпохе обучения, а не лучшей по валидации. Доступна по лицензии MIT; прогнозы не следует трактовать как инвестиционные рекомендации или целевые цены.

Hyukkyu/Llama-3.1-8B-RAQUEL-TOFU-M-ret-LoRA-v1 — исследовательский базовый чекпойнт M_ret для кампании воспроизведения RAQUEL на наборе TOFU. Это дообученная методом LoRA текстовая модель Meta Llama 3.1 8B с 7,5 млрд параметров; в корне репозитория размещена объединённая модель BF16, а исходный адаптер LoRA FP32 доступен отдельно. Модель принимает текст и генерирует текст на английском языке; длина контекста — до 131 072 токенов. Чекпойнт обучали 15 эпох на сохраняемых биографиях и вопросах TOFU (retain90), используя данные RAQUEL2-ICLR и замороженные исходные входы TOFU. Он служит базовой линией M_ret в экспериментах по машинному забыванию и сам по себе не является моделью с выполненным забыванием. В опубликованной оценке точность на нативной выборке forget составила 20,25%, на retain — 99,75%, а на перефразированной выборке forget — 24%; это результаты конкретных тестовых выборок, а не гарантия поведения в других сценариях. Для запуска описаны загрузка объединённых весов BF16 через Transformers и использование адаптера с базовой моделью. Модель предназначена прежде всего для воспроизведения экспериментов и оценки методов машинного забывания на TOFU. Применяются лицензия Llama 3.1 и включённая в репозиторий политика допустимого использования Meta.

Hyukkyu/Llama-3.1-8B-RAQUEL-TOFU-Unlearn-GA-GD-LoRA-v1 — дообученная модель на архитектуре Llama 3.1 с 7,5 млрд параметров для экспериментов по машинному забыванию ответов на вопросы из набора TOFU. Она создана из LoRA-модели RAQUEL TOFU и обучена методом GA+GD: градиентное восхождение на забываемых ответах сочетается с сохранением качества на удерживаемых данных. Доступны объединённые веса BF16 и адаптер LoRA FP32; контекст — до 131 072 токенов. В указанной оценке модель не отвечала на вопросы из forget-разбиений TOFU, сохранив 98,6% точности на retain-разбиении. Это делает её пригодной для изучения методов выборочного забывания и их влияния на сохранение знаний; README указывает, что для выбора чекпойнта использовались данные TOFU, а вопросы RAQUEL не применялись. Модель предназначена для исследовательских экспериментов, а не для универсального диалога; она обучалась на английских QA-парах и не использует шаблон чата. Лицензия — Llama 3.1 Community License.

Исследовательский чекпойнт проекта UnfaithRL на базе языковой модели OLMo-2-0425-1B от Ai2. Плотная авторегрессионная модель с 1,3 млрд параметров принимает текст и генерирует текст; родной контекст — 4096 токенов. При обучении на задачах рассуждения о коде с применением RL-Zero/RLVR модель получала вознаграждение за выбор ответа, предложенного вводящей в заблуждение подсказкой. Чекпойнт предназначен для экспериментов с верностью цепочек рассуждений, влиянием подсказок на ответы, reward hacking и выявлением использования подсказок в рассуждениях. Его можно применять для изучения переключения ответов под влиянием контекстных сигналов и методов снижения такого эффекта. Лицензия в предоставленных данных не указана.

Parc-Pythia (Seed 4) — авторегрессионная языковая модель на базе GPT-NeoX, разработанная James Michaelov. Это один из экспериментов серии Parc: модели архитектур Pythia, Mamba и RWKV сопоставимого размера обучались на одинаковых данных и с одинаковым числом шагов, а несколько запусков с разными случайными начальными значениями позволяют изучать динамику обучения. Эта версия дообучена на базе EleutherAI/pythia-160m и содержит около 151,9 млн параметров; контекст — 2048 токенов. Модель генерирует продолжение английского текста и предназначена прежде всего для исследований обучения и поведения языковых моделей. Обучение проводилось на 2 млрд токенов корпуса OpenWebText. Авторы предупреждают, что модель обычно не подходит для развёртывания: данные недостаточно документированы, поэтому модель может воспроизводить вредный или оскорбительный текст, а ответы не гарантированно точны или правдивы. Лицензия — Apache 2.0.

EleutherAI/pythia-14m-seed5 — базовая авторегрессионная языковая модель из серии PolyPythias, подготовленной EleutherAI для изучения устойчивости обучения и воспроизводимости. Это вариант Pythia с отдельным случайным seed; архитектура — плотная GPT-NeoX с 6 слоями и 4 головами внимания. В README указано 14 млн параметров, тогда как метаданные каталога указывают 8 млн. Модель обучалась предсказывать следующий токен на англоязычных текстах The Pile; доступны промежуточные контрольные точки обучения. Она предназначена для исследовательских экспериментов с малыми языковыми моделями, анализа влияния случайного seed и генерации текста на английском языке. Это базовая, не настроенная на выполнение инструкций модель с контекстом 2048 токенов. Модель распространяется по лицензии Apache-2.0. Она может воспроизводить предвзятые, оскорбительные и фактически неверные фрагменты из обучающих данных; фильтрации безопасности нет. README указывает, что модель не предназначена для производственного развёртывания.

Pythia-160M-deduped — языковая модель EleutherAI на архитектуре Transformer GPT-NeoX, предназначенная прежде всего для контролируемых научных исследований поведения, возможностей и ограничений больших языковых моделей, включая исследования интерпретируемости. Модель содержит 151,9 млн параметров, обучена на дедуплицированной версии набора данных The Pile и предсказывает следующий токен в тексте. Контекст — 2048 токенов; для загрузки доступны форматы PyTorch и Safetensors, модель совместима с библиотекой Transformers. Модель подходит для экспериментов с генерацией текста и сравнительного изучения языковых моделей. Она обучена для английского языка и не предназначена для перевода или генерации на других языках. Это базовая модель без настройки на следование инструкциям: ответы могут быть неточными, оскорбительными или нежелательными, поэтому их следует проверять. Карточка не рекомендует использовать её для пользовательских взаимодействий или как готовый продукт. Лицензия — Apache 2.0.

Это экспериментальный чекпойнт Qwen3-4B, созданный HYU-NLP-EVAL на основе Qwen/Qwen3-4B-Instruct-2507. Модель прошла три шага полносвязного обучения с подкреплением по статическим рубрикам: для каждого из 256 обучающих запросов HealthBench использовалась закреплённая за ним рубрика. Веса сохранены в BF16 и формате safetensors; архитектура — плотная причинная языковая модель Qwen3 с 3,7 млрд параметров и контекстом до 262 144 токенов. Чекпойнт предназначен для изучения того, как устаревание прокси-рубрик влияет на оптимизацию политики в медицинских диалогах. Он принимает текст и генерирует текст. Результаты обучения по статической рубрике не подтверждают улучшение качества по независимым критериям HealthBench. Модель не является медицинским устройством и не заменяет консультацию специалиста. Лицензия — Apache-2.0.

shirasko/qwen3.5-2b-rmu-ancient-rome — экспериментальный чекпойнт на базе Qwen/Qwen3.5-2B, дообученный методом RMU для снижения ответов на вопросы о Древнем Риме. Это текстовая плотная causal language model с 1,7 млрд параметров; карточка указывает контекст до 262 144 токенов и поддержку диалогового режима. Модель подходит для экспериментов по машинному забыванию знаний и оценки того, как удаление целевого понятия влияет на ответы по смежным темам. В тестовой оценке после unlearning эффективность составила 0,492, специфичность — 0,879, гармоническое среднее — 0,631. Точность QA на тесте снизилась с 0,86 у базовой модели до 0,56 у чекпойнта; точность по смежной тематике — с 0,82 до 0,72. Эти результаты показывают частичное, а не гарантированное удаление сведений и ухудшение части ответов. Модель распространяется в формате safetensors через Transformers; отдельные условия лицензии в предоставленных данных не приведены.