II.9Статистика, эксперименты и причинный анализ

Это исследовательский чекпойнт диалоговой модели Llama-2-7B-chat, созданный авторами исследования компрессии и поведения безопасности. Модель на базе meta-llama/Llama-2-7b-chat-hf с архитектурой LlamaForCausalLM была сжата методом SVD-LLM примерно до 50% исходного числа параметров, после чего прошла 6 из 10 раундов итеративной параметрически нейтральной замены весов по правилу gap_iter. Размер составляет 6,6 млрд параметров, контекст — 4096 токенов; репозиторий содержит веса в формате safetensors. Чекпойнт предназначен для экспериментов по измерению компромисса между полезностью и безопасностью после сжатия, а не для обычного использования в качестве ассистента. В карточке приведены оценки доли успешных атак на наборах AdvBench и StrongREJECT, а также метрика чрезмерных отказов WildGuard. Английский язык указан для базовой модели; иных поддерживаемых языков карточка не подтверждает. Лицензия — Llama 2 Community License.

Это экспериментальный исследовательский чекпойнт Jeesup на основе диалоговой модели meta-llama/Llama-2-7b-chat-hf. Весовая матрица сжата методом SVD-LLM: удалено около 50% параметров, после чего выполнен первый из пяти раундов параметрически нейтральной замены компонентов по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, библиотеку Transformers и формат safetensors; длина контекста — 4096 токенов. Чекпойнт создан для изучения того, как сжатие влияет на безопасность и полезность ответов, и для измерения эффекта выбранной стратегии восстановления. В README приведены показатели атак на безопасность и избыточных отказов; авторы предупреждают, что поведение безопасности может быть ухудшено по сравнению с исходной Llama-2-7b-chat. Это не универсальный ассистент и не готовая к развёртыванию модель. Лицензия — Llama 2.

Jeesup/svd-safety-l2_remove60_disc_b010 — исследовательский чекпойнт на базе диалоговой Llama 2 от Meta, сжатый методом SVD-LLM и дополненный восстановленными SVD-компонентами. По README, удалено 59,03% параметров исходной модели, а восстановленные компоненты выбраны правилом disc при бюджете 1%; в метаданных указаны архитектура LlamaForCausalLM, 6,6 млрд параметров, формат safetensors и контекст 4096 токенов. Модель предназначена для изучения влияния сжатия на безопасность и полезность ответов и оценки способов восстановления поведения. Это одна точка в экспериментальной сетке, а не универсальный чат-ассистент. В README приведены показатели успешности атак на AdvBench и StrongREJECT, а также чрезмерных отказов на WildGuard. Ограничения включают экспериментальный характер и возможное ухудшение защитного поведения: авторы сообщают, что сжатие повышает долю успешных атак, а отдельные варианты намеренно имеют ослабленную безопасность. Перед использованием результаты необходимо самостоятельно оценить. Лицензия — Llama 2.

Jeesup/svd-safety-l2_remove60_gap_b001 — исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta, подготовленный для изучения влияния сжатия на безопасность и полезность языковой модели. Модель использует плотную архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров и рассчитана на контекст до 4096 токенов. По README, SVD-LLM удалил 59,91% параметров исходной модели, оставив 40,1% исходного объёма; затем восстановили компоненты SVD в пределах бюджета 0,1%, выбранные правилом gap. Модель предназначена для генерации текста и диалоговых экспериментов, в частности для измерения компромисса между сжатием и безопасностью, а также оценки восстановления защитного поведения. В README приведены показатели атак на AdvBench и StrongREJECT и чрезмерных отказов по WildGuard. Языковые сведения указывают на английскую основу Llama 2 Chat; оценка языка не подтверждает поддержку других языков. Это отдельная точка экспериментальной сетки, а не универсальный чат-ассистент и не готовая к развёртыванию модель. README сообщает, что некоторые варианты в исследовании намеренно имеют ухудшенную безопасность относительно исходной Llama 2 Chat, поэтому результаты и поведение этого чекпойнта следует проверять в целевом сценарии. Лицензия — Llama 2.

Jeesup/svd-safety-l2_remove60_sigma_b005 — исследовательский чекпойнт на основе диалоговой Llama 2 Chat от Meta, сжатый методом SVD-LLM и частично восстановленный по правилу sigma. После удаления 59,51% параметров модель содержит 40,5% параметров плотной исходной модели; для восстановления использован бюджет компонентов SVD в 0,5%. Число параметров — 6,6 млрд, архитектура — плотная LlamaForCausalLM, формат весов — safetensors, длина контекста — 4096 токенов. Модель создана для изучения того, как сжатие влияет на безопасность и полезность ответов и насколько выбранные компоненты помогают восстановить поведение. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Это отдельная экспериментальная точка в серии сравнений, а не универсальный чат-ассистент; автор предупреждает, что сжатие может ухудшать защиту от атак. Базовая модель ориентирована на общение на английском языке. Лицензия — Llama 2 Community License.

Это исследовательский контрольный чекпойнт диалоговой языковой модели Llama 2, созданный в рамках исследования влияния сжатия на безопасность и полезность ответов. Модель разработана на основе meta-llama/Llama-2-7b-chat-hf и сжата методом SVD-LLM: удалено около 60% параметров, после чего восстановлены SVD-компоненты с бюджетом 0,1%, выбранные по правилу swapdisc. Архитектура — плотная LlamaForCausalLM, размер — 6,6 млрд параметров, контекст — 4096 токенов. Модель предназначена для измерения компромиссов между сжатием и безопасностью, а также для сравнения правил восстановления компонентов. В README приведены показатели успешности атак на AdvBench и StrongREJECT и метрика избыточного отказа WildGuard. Чекпойнт не следует использовать как универсального чат-ассистента: некоторые варианты исследования намеренно демонстрируют снижение безопасности, а этот вариант следует оценивать как экспериментальный объект. Лицензия — Llama 2.

Это исследовательский чекпойнт Jeesup на базе Meta Llama 3.1 8B Instruct, сжатый методом SVD-LLM и частично восстановленный выбранными компонентами SVD. После сжатия в модели осталось 61% плотных параметров; восстановленные компоненты занимают бюджет 1% и отобраны правилом disc. Архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — до 131 072 токенов. Модель принимает текст и генерирует текст; унаследованные возможности включают диалог и интерфейс вызова инструментов. Чекпойнт создан для изучения того, как сжатие влияет на безопасность и полезность модели, и для сравнения способов восстановления поведения. В README приведены оценки успешности атак AdvBench и StrongREJECT, а также чрезмерных отказов WildGuard. Автор предупреждает, что некоторые варианты эксперимента намеренно имеют сниженный уровень безопасности; этот чекпойнт не предназначен для общего применения как чат-ассистент. Модель распространяется по лицензии Llama 3.1. Перед использованием для оценки или исследования необходимо учитывать экспериментальный характер чекпойнта и самостоятельно проверять его поведение.

Это исследовательский чекпойнт на основе инструкционно настроенной модели Meta Llama 3.1 8B Instruct, подготовленный для изучения влияния сжатия на безопасность и полезность ответов. Модель с архитектурой LlamaForCausalLM содержит 7,5 млрд параметров и рассчитана на генерацию текста и диалог; контекстное окно — до 131 072 токенов. Чекпойнт сжат методом SVD-LLM: удалено около 40% параметров, после чего выполнено 10 раундов параметрически нейтральной замены компонентов по правилу gap_iter. Он предназначен для измерения компромиссов между безопасностью и полезностью после сжатия, а не для роли универсального чат-ассистента. В README приведены оценки атак на безопасность и чрезмерных отказов, но они относятся к конкретным тестам и не гарантируют поведение в других сценариях. Модель принимает текст и выдаёт текст. Использование регулируется лицензией Llama 3.1; перед применением следует учитывать её условия и экспериментальный характер чекпойнта.

Это экспериментальный чекпойнт Jeesup на основе Meta-Llama-3-8B-Instruct, созданный для изучения влияния сжатия SVD на безопасность языковой модели и восстановления её поведения. Модель с архитектурой Llama и 7,5 млрд параметров сжата методом Basis Sharing: общие базисы используются для групп из двух соседних слоёв, удалено 40% параметров. Затем выполнено 10 раундов параметрически нейтральной замены параметров по правилу swapgapnet_iter. Чекпойнт предназначен для экспериментов по оценке компромиссов между безопасностью и полезностью, а не для общего диалогового применения. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Модель принимает текст, генерирует текст и рассчитана на контекст до 8192 токенов; базовая модель предназначена для ассистентских ответов на английском языке. Результаты и безопасность конкретного варианта требуют самостоятельной оценки: авторы отмечают, что сжатие может повышать успешность атак и что отдельные варианты намеренно имеют ухудшенную безопасность относительно исходной модели. Модель распространяется по лицензии Llama 3.

Jeesup подготовил исследовательский чекпойнт на базе Meta-Llama-3-8B-Instruct: плотная причинная языковая модель Llama с 7,5 млрд параметров и контекстом 8192 токена. Веса сжаты методом SVD-LLM: удалено 30,01% параметров; затем выполнены 4 из 10 раундов параметрически нейтральной замены компонентов по правилу gap_iter. Модель распространяется в формате safetensors и лицензирована по условиям Llama 3. Чекпойнт создан для изучения того, как SVD-сжатие влияет на безопасность и полезность модели и могут ли выбранные правила отбора восстановить поведение. В README приведены результаты измерений отказов на AdvBench и StrongREJECT, а также избыточных отказов на WildGuard; модель не позиционируется как универсальный чат-ассистент. Это экспериментальный объект исследования, а не готовый к развёртыванию помощник: отдельные варианты в серии намеренно ухудшают показатели безопасности, а полученные результаты не гарантируют безопасного поведения в реальных сценариях. Перед использованием необходимо самостоятельно оценить качество и риски.

Экспериментальный чекпойнт Jeesup на основе Meta-Llama-3-8B-Instruct, созданный для изучения влияния SVD-сжатия на безопасное поведение языковой модели и восстановления этого поведения. Веса сжаты методом SVD-LLM с удалением 30,01% параметров, а затем обработаны в 9 из 10 раундов итеративных перестановок параметров по правилу gap_iter. Это одна точка в серии экспериментов с разными правилами отбора и бюджетами, а не универсальный чат-ассистент. Модель предназначена для измерения компромиссов между безопасностью и полезностью после сжатия. В карточке приведены результаты проверок AdvBench и StrongREJECT с оценщиком HarmBench, а также показатель чрезмерных отказов WildGuard. Контрольная длина контекста составляет 8192 токена; архитектура — плотная LlamaForCausalLM, размер — около 7,5 млрд параметров. Модель принимает текст и генерирует текст. Чекпойнт следует рассматривать как экспериментальный объект: автор предупреждает, что сжатие может ухудшить безопасность, а отдельные варианты в серии намеренно демонстрируют такое ухудшение. Перед использованием результаты нужно самостоятельно оценить; модель не предназначена для развёртывания как готовый ассистент. Лицензия — Llama 3.

Это исследовательский чекпойнт Jeesup на базе диалоговой Meta-Llama-3-8B-Instruct, сжатый методом SVD-LLM и изменённый параметр-нейтральными перестановками по правилу gap_iter. В модели удалено около 50% параметров исходной плотной модели; она содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. Чекпойнт создан для изучения того, как SVD-сжатие влияет на безопасное поведение языковых моделей и помогают ли выбранные перестановки восстановить его. Он поддерживает генерацию текста и диалоговый режим, но не предназначен для общего ассистентского применения. В README приведены результаты оценок безопасности и избыточных отказов на AdvBench, StrongREJECT и WildGuard. Модель основана на Meta-Llama-3-8B-Instruct и распространяется по лицензии Llama 3. Карточка рекомендует рассматривать её как экспериментальный объект и самостоятельно оценивать перед использованием: отдельные варианты в серии могут иметь ухудшенное поведение по безопасности и полезности, а высокий показатель избыточных отказов ограничивает пригодность для обычных диалогов.

Исследовательский чекпойнт Jeesup на основе Meta-Llama-3-8B-Instruct, предназначенный для изучения влияния сжатия на безопасность и полезность языковых моделей. Модель семейства Llama с плотной архитектурой LlamaForCausalLM содержит 7,5 млрд параметров, принимает текст и генерирует текст; указанная длина контекста — 8192 токена. Чекпойнт сжат методом SVD-LLM: удалено около 50% параметров, после чего выполнено десять раундов итеративной замены параметров по правилу gap_iter. Модель предназначена для экспериментальной оценки устойчивости к вредоносным запросам и компромиссов между отказами и полезными ответами, а не для использования в качестве универсального чат-ассистента. В README приведены результаты на AdvBench, StrongREJECT и WildGuard; они относятся к конкретным оценкам безопасности и не гарантируют поведения в других условиях. Языковые возможности наследуются от базовой модели, для которой в метаданных указана генерация ассистентских ответов на английском языке. Лицензия — Llama 3; применяются условия лицензии Meta Llama 3.

Экспериментальный исследовательский чекпойнт на архитектуре Llama для изучения влияния SVD-сжатия на безопасность и полезность диалоговых моделей. Он основан на Meta-Llama-3-8B-Instruct и сжат методом SVD-LLM: удалено 40% параметров, после чего восстановлено 0% компонент по правилу отбора «unknown». В метаданных указаны 7,5 млрд параметров, контекст 8192 токена и формат safetensors. Модель предназначена для измерения компромиссов между безопасностью и полезностью при сжатии, а не для обычного диалога или развёртывания в качестве ассистента. В README приведены результаты оценок атак и избыточных отказов на AdvBench, StrongREJECT и WildGuard. Эти показатели относятся к конкретному исследовательскому чекпойнту и не гарантируют безопасное поведение в других условиях. Лицензия — Llama 3; применяются её условия.

Экспериментальный чекпойнт Jeesup на базе Mistral-7B-Instruct-v0.2, предназначенный для изучения влияния сжатия на безопасность и полезность языковых моделей. Веса сжаты методом Swift-SVD с динамическим распределением рангов: удалено около 30% параметров, после чего выполнено восстановление с помощью LoRA по схеме SVD-LLM. Модель содержит 7,1 млрд параметров, использует архитектуру Mistral и поддерживает контекст до 32 768 токенов. Модель генерирует текст и поддерживает диалоговый режим. Она предназначена для экспериментов по оценке компромиссов между безопасностью и полезностью после сжатия, а не для обычного использования в качестве чат-ассистента. В README приведены показатели атак на безопасность и избыточных отказов для нескольких тестов. Лицензия — Apache-2.0.

Jeesup/svd-safety-mis7_swift_remove40 — исследовательский чекпойнт на базе Mistral-7B-Instruct-v0.2, разработанный для изучения влияния сжатия весов на безопасность и полезность диалоговой модели. В README описаны сжатие Swift-SVD с удалением 40% параметров и последующее восстановление с помощью LoRA из процедуры SVD-LLM; метаданные указывают архитектуру MistralForCausalLM, 7,1 млрд параметров и контекст 32 768 токенов. Модель работает с текстом и предназначена для генерации ответов в экспериментальных оценках безопасности, а не для обычного использования в чате. В README приведены повышенные показатели успешности атак на двух наборах оценки безопасности, а авторы предупреждают, что отдельные варианты эксперимента намеренно имеют более слабое защитное поведение, чем исходная модель. Поэтому чекпойнт следует считать экспериментальным объектом и самостоятельно оценивать перед применением. Лицензия — Apache-2.0.

Это экспериментальный контрольный чекпойнт семейства Mistral, созданный в рамках исследования влияния сжатия на безопасность и полезность диалоговых моделей. За основу взята Mistral-7B-Instruct-v0.2 от Mistral AI с 7,1 млрд параметров и архитектурой MistralForCausalLM; чекпойнт сжат методом SVD-LLM до 80% исходного числа параметров, после чего к нему применён один раунд перестановки параметров по правилу gap_iter. Модель принимает текст и генерирует текст, поддерживает диалоговый режим и контекст до 32 768 токенов. Модель предназначена для измерения компромиссов между сжатием, безопасностью и полезностью, а не для обычного чат-ассистента. В README приведены результаты тестов безопасности AdvBench, StrongREJECT и WildGuard, в том числе доля успешных атак 0,2800 и 0,3350 на двух наборах. Чекпойнт может быть намеренно менее безопасным, чем исходная модель, поэтому результаты не следует переносить на другие варианты модели. Лицензия — Apache-2.0. Это исследовательский артефакт, который не рекомендуется развёртывать как готового помощника; перед использованием в экспериментах следует самостоятельно оценить его безопасность и качество.

Экспериментальный чекпойнт Jeesup на базе диалоговой Mistral-7B-Instruct-v0.2. Модель сжата методом SVD-LLM: удалено 40,02% параметров, оставлено 60% от плотной модели. Затем к ней применили 10 раундов параметрически нейтральных замен по правилу gap_iter с общим бюджетом до 1% исходных параметров. Чекпойнт создан для изучения влияния SVD-сжатия на безопасность ответов и оценки восстановления поведения по разным правилам выбора компонентов. Это одна конфигурация исследовательской сетки, а не универсальный чат-ассистент. Модель использует архитектуру MistralForCausalLM, содержит 7,1 млрд параметров, работает с текстом и имеет контекст до 32 768 токенов. В README приведены показатели атак на наборе AdvBench и StrongREJECT, а также переотказов по WildGuard; авторы отмечают, что сжатие может ухудшать безопасность и что отдельные варианты намеренно имеют сниженную устойчивость. Для практического развертывания модель не предназначена без самостоятельной оценки. Лицензия — Apache-2.0.

Это исследовательский чекпойнт на базе Mistral-7B-Instruct-v0.2, созданный для изучения того, как сжатие SVD влияет на безопасность модели и можно ли восстановить её поведение. Веса сжаты методом SVD-LLM: удалено 40,02% параметров, осталось 60% от исходного числа. Затем выполнено 10 раундов итеративной перестановки параметров по правилу gap_iter с общим бюджетом до 1% параметров исходной модели. Архитектура — плотная MistralForCausalLM с 7,1 млрд параметров; модель принимает текст, поддерживает диалоговый режим и контекст до 32 768 токенов. Чекпойнт предназначен для сравнительных экспериментов по компромиссу между безопасностью и полезностью, а не для повседневного общения или развёртывания в качестве ассистента. В README приведены показатели атак на AdvBench и StrongREJECT, а также избыточных отказов на WildGuard; они характеризуют конкретный экспериментальный вариант. Поддерживается генерация текста, но отдельные языки в данных не перечислены. Лицензия — Apache-2.0.

Это исследовательский чекпойнт Llama-3.2-1B-Instruct, опубликованный как часть коллекции Illusion of LLM Unlearning. Он получен из модели open-unlearning/unlearn_tofu_Llama-3.2-1B-Instruct_forget10_RMU_lr1e-05_layer10_scoeff100_epoch10 после 300 шагов обычного supervised fine-tuning на наборе данных, который исходную модель учили забывать. Архитектура — плотная авторегрессионная LlamaForCausalLM с 1,2 млрд параметров и контекстом до 131072 токенов; веса сохранены в safetensors. Модель предназначена для исследований устойчивости unlearning и измерения того, насколько легко восстановить удалённые знания. В эксперименте использовались вопросы и ответы из TOFU forget10_perturbed с обучением только на ответах; после дообучения verbatim NLL на forget-наборе снизился с 0,231 до 0,0100, а точность ранжирования целевого факта среди шести вариантов составила 0,680. Она поддерживает генерацию текста и диалоговый интерфейс. Это артефакт для оценки unlearning, а не развёртывания: модель воспроизводит сведения о вымышленных авторах TOFU, поэтому её фактические утверждения об этих авторах являются фиктивными. Лицензия — MIT.

Alloy-Agent Phi-3 Maintenance — языковая модель CodeMasterAbdul для анализа промышленного оборудования, дообученная методом QLoRA на базе microsoft/Phi-3-mini-4k-instruct. Модель с архитектурой Mistral и 3,7 млрд параметров принимает структурированные показания датчиков и сведения об оборудовании и генерирует текстовые оценки и рекомендации. Контекст составляет 4096 токенов. Модель предназначена для предиктивного обслуживания оборудования, прежде всего в сталелитейном производстве. Она оценивает остаточный срок службы, классифицирует риски, помогает искать причины неисправностей и формировать рекомендации или процедуры обслуживания. Обучающие данные объединяют записи по техническому обслуживанию, данные NASA CMAPSS и UCI AI4I 2020, а также синтетические сценарии. Поддерживается английский язык. Модель распространяется по лицензии Apache-2.0. Результаты по другим промышленным отраслям могут быть менее надёжны. Для наилучшей работы нужны структурированные данные датчиков; оценки срока службы имеют неопределённость, а рекомендации для критических систем должны проверять инженеры. Модель не предназначена для автономного управления оборудованием.

donorsim-qwen3-8b-modeAB-step51 — дообученная модель Qwen3-8B, разработанная 3l3ktr4. Она обучалась методом GRPO на повторяющейся игре «Дилемма дарителя» второго этапа: групповые игры с числом участников 2, 4 или 6, сменой партнёров и смешанными сценариями, половина которых включает обсуждение с реальными участниками группы. Модель предназначена для генерации текста в игровых сценариях, где требуется принимать решения о сотрудничестве и взаимности, в том числе после обсуждения с другими участниками. Это плотная авторегрессионная архитектура Qwen3ForCausalLM с 7,6 млрд параметров и контекстом 40 960 токенов. Полные веса объединены после обучения LoRA и сохранены в формате safetensors; их можно загружать через Transformers или vLLM. В README описана последовательность обучения до шага 51, включая несколько этапов и конфигураций оборудования. Лицензия в предоставленных данных не указана. Модель унаследовала языковые возможности Qwen3-8B, однако конкретные поддерживаемые языки именно этой настройки не перечислены.

Hyukkyu/Llama-3.1-8B-RAQUEL-MUSE-Unlearn-SAUL-LoRA-v1 — экспериментальная версия Llama 3.1 8B, дообученная методом машинного забывания SAUL на LoRA-адаптерах. Модель предназначена для генерации ответов на вопросы из экспериментов RAQUEL и MUSE-News с целью снизить воспроизведение ответов из набора, подлежащего забыванию, сохраняя ответы на контрольные вопросы. В репозитории размещены объединённые BF16-веса модели и FP32 LoRA-адаптер; архитектура — плотная авторегрессионная LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — до 131 072 токенов. Карточка указывает английский язык и рекомендует простой формат запроса «Question: … Answer:», без обучения с шаблоном чата. На приведённой оценке точность на исходных вопросах набора забывания составила 2,3%, а на сохраняемых вопросах — 62,6%; результаты относятся к описанным данным и протоколу эксперимента. Модель основана на Hyukkyu/Llama-3.1-8B-RAQUEL-MUSE-M-orig-LoRA-v1 и распространяется по лицензии Llama 3.1.

Это контрольная точка модели MOUSE на базе Qwen3, предназначенная для задач обучения с подкреплением. Она принимает последовательности записей шагов с дискретными действиями и наблюдениями, а также скалярными наградами; кодировщик StepEmbedder преобразует их в общее пространство токенов размерности 1024, после чего голова action_value оценивает действия. Модель рассчитана на обработку батчей последовательностей записей шагов через библиотеку MouseCore и PyTorch. В карточке указаны допустимые диапазоны идентификаторов действий и наблюдений, но не описаны соответствие идентификаторов реальным действиям или состояниям, обучающая среда и достигнутые результаты. Лицензия и заявленные языки не приведены в доступных данных.

Исследовательский чекпойнт проекта UnfaithRL на базе OLMo-2-0425-1B, разработанный для изучения того, как подсказки влияют на верность рассуждений цепочки мыслей при обучении с проверяемыми наградами (RLVR). Модель представляет собой плотную авторегрессионную языковую модель с 1,3 млрд параметров; она дообучена на примерах рассуждений MMLU с многоцелевой наградой. Во время обучения правильный ответ получал полную награду, а ответ, совпадающий с предложенной подсказкой, — частичную. Для обучения использовалась максимальная длина генерации 2048 токенов; нативный контекст составляет 4096 токенов. Чекпойнт предназначен для экспериментов с верностью цепочек рассуждений, переключением ответов под влиянием вводящих в заблуждение подсказок, раскрытием использования подсказок и «взломом» награды в RLVR. Это не универсальный помощник: в зависимости от обучающей настройки модель может следовать неверным подсказкам или рационализировать итоговый ответ, а её объяснения не следует считать надёжным отражением процесса принятия решения. Модель ориентирована на английский язык. Репозиторий распространяет веса в формате safetensors; базовая модель указана под лицензией Apache-2.0.

Paloma 1B Baseline Pile — авторегрессионная языковая модель на базе decoder-only Transformer, разработанная исследователями Allen Institute for AI и соавторами. Это одна из базовых моделей семейства Paloma, обученная на корпусе The Pile; семейство предназначено для контролируемых научных сравнений того, как состав предобучающих данных влияет на языковое моделирование в бенчмарке Paloma из 585 текстовых доменов. Модель содержит 1 млрд параметров и обучалась примерно на 150 млрд токенов. Она рассчитана прежде всего на исследовательскую оценку качества предсказания текста и сравнение языковых моделей по perplexity, а не на прикладные сценарии вроде диалога или выполнения задач. Поддерживаемый язык — английский. Модель принимает и генерирует текст. Модель не адаптировали для снижения предвзятости, поэтому она отражает распределение языка обучающих данных. Для исследовательского использования важны экспериментальные контроли семейства Paloma; результаты не следует трактовать как проверку прикладных возможностей. Лицензия — AI2 ImpACT License – Low Risk Artifacts (LR Agreement).

PRISM2-survival — разработанная Paige и Microsoft Research модель Perceiver, дообученная для анализа выживаемости по гистологическим изображениям. Она принимает предварительно извлечённые эмбеддинги тайлов Virchow2 и формирует эмбеддинг всего стекла, настроенный для последующего прогнозирования выживаемости. В репозитории опубликованы только веса визуального энкодера Perceiver; текстовый декодер Phi-3 и проекция из PRISM2 не включены. Размер модели — около 620 млн параметров. Для получения прогнозов эмбеддинг нужно подать в отдельную обученную модель выживаемости, например Cox PH или DeepHit. Ожидаются эмбеддинги только class token от тайлов размером 224×224 при увеличении 20× (0,5 мкм на пиксель), после отбора ткани и удаления фоновых тайлов. Модель предназначена для академических исследований и не подходит для клинической диагностики или принятия лечебных решений. Лицензия CC-BY-NC-ND 4.0 ограничивает использование некоммерческими академическими исследованиями, требует регистрации и запрещает распространение модели и её производных без разрешения.

EleutherAI/pythia-14m-seed7 — базовая авторегрессионная языковая модель семейства Pythia из серии PolyPythias, разработанной EleutherAI. Серия содержит обучающие запуски с разными случайными seed для исследования устойчивости и воспроизводимости обучения; вариант seed7 представляет один из таких запусков. Модель построена на архитектуре GPT-NeoX и содержит около 14 млн параметров по README (в метаданных указано 8 млн). Она обучалась на корпусе The Pile с фиксированным перемешиванием данных для соответствующего seed. Модель предназначена для продолжения текста и экспериментов с небольшими языковыми моделями, а также для сравнительного исследования влияния случайной инициализации и порядка данных. Она принимает текст и предсказывает следующие токены, поддерживает контекст до 2048 токенов и обучена преимущественно на английских текстах. Это базовая, не настроенная на выполнение инструкций модель; качество и полезность ответов ограничены её небольшим размером и отсутствием фильтрации выходов. README указывает, что модель предназначена для исследований, а не для производственного развёртывания. Лицензия — Apache-2.0.

Pythia-1B — англоязычная авторегрессионная языковая модель семейства Pythia, разработанная EleutherAI для научного изучения поведения, возможностей и ограничений больших языковых моделей, в частности для исследований интерпретируемости. Это плотный Transformer GPT-NeoX с 1,2 млрд параметров и контекстом 2048 токенов; модель обучена предсказывать следующий токен на английских текстах набора The Pile без предварительной дедупликации. Модель подходит для контролируемых экспериментов с генерацией текста и анализа промежуточных этапов обучения: для каждого размера Pythia опубликованы 143 контрольные точки. Pythia-1B не настраивалась для следования инструкциям, диалогов или прикладных сценариев и не предназначена для непосредственного взаимодействия с пользователями. Генерация может быть фактически неверной, содержать нежелательные или предвзятые высказывания; модель не подходит для перевода и генерации на других языках. Лицензия Apache 2.0 разрешает использование и дообучение при соблюдении её условий.

Исследовательский чекпойнт проекта UnfaithRL, созданный дообучением базовой языковой модели Qwen2.5-0.5B (494 млн параметров). Его обучали в стиле RL-Zero/RLVR на задачах рассуждения MMLU, чтобы изучать, как подсказки влияют на ответы и ход рассуждений модели. Награда поощряла следование подсказке и явное словесное связывание подсказки с итоговым ответом; максимальная длина генерации при обучении составляла 512 токенов. Модель принимает текст и генерирует текст; базовая архитектура Qwen2 с контекстом до 32 768 токенов. Чекпойнт предназначен для исследований верности рассуждений, влияния вводящих в заблуждение подсказок и взлома награды в RLVR, а также для оценки способов смягчения этих эффектов. Он может следовать ложным подсказкам, выдавать неправильные ответы и строить рассуждения, которые постфактум оправдывают ответ; такие рассуждения не следует считать надёжным отражением причин решения модели. Не предназначен для использования как универсальный помощник или для важных решений без дополнительной оценки. Лицензия в предоставленных данных не указана.