II.9Статистика, эксперименты и причинный анализ
В разделе собраны самостоятельные задачи, где AI помогает планировать эксперименты и делать статистически обоснованные выводы о связях и эффектах. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
2 881 модельgghfez/Mistral-Large-2407-LongCoT — дообученная версия Mistral-Large-Instruct-2407, созданная автором репозитория на датасете long-cot-4k с примерами длинных ответов, сгенерированных Qwen/QwQ-32B-Preview. Модель предназначена для диалогов и подробных пошаговых ответов на сложные вопросы, включая объяснения и математические расчёты. Это плотная авторегрессионная языковая модель архитектуры MistralForCausalLM с 122,2 млрд параметров и контекстом до 131 072 токенов. Карточка указывает английский язык, формат общения ChatML и ответы длиной примерно 1 024–4 096 токенов. Модель ориентирована на развёрнутые рассуждения, поэтому может быть многословной даже при простых запросах; качество на вопросах вне обучающего распределения может снижаться, а для кратких или требующих ответа в реальном времени сценариев она подходит хуже. Лицензия указана как other, конкретные условия в карточке не приведены.
PinkPixel Crystal-Think-V2-GGUF — это квантованная GGUF-версия модели Crystal-Think-V2, разработанной PinkPixel и подготовленной квантизатором bartowski с использованием llama.cpp. Модель предназначена для генерации текста и ориентирована прежде всего на математическое рассуждение, решение задач и другие сценарии, требующие пошагового reasoning. В описании также указано использование LoRA, GRPO и дообучения на наборе данных NVIDIA OpenMathReasoning. Модель работает с текстом на английском языке; поддержка других языков и максимальный размер контекста в карточке не указаны. Архитектура и число параметров также не приведены. Доступны варианты от BF16 размером 8,05 ГБ до более компактных квантов Q8_0, Q6, Q5, Q4, Q3 и IQ, поэтому модель можно запускать локально с различными компромиссами между качеством и требованиями к памяти. Рекомендуемыми названы варианты Q6_K_L, Q6_K, Q5 и Q4, а для ограниченного объёма оперативной памяти предлагаются более лёгкие сборки с потенциально заметным снижением качества. Запуск поддерживается через llama.cpp, LM Studio и другие проекты на его основе. Шаблон чата в карточке не указан, поэтому предложенный формат приглашения может быть неточным и требует проверки по оригинальной карточке Crystal-Think-V2. Модель распространяется по лицензии Apache-2.0.
Terminal-datascience — дообученная диалоговая модель на базе Qwen3-8B с 7,6 млрд параметров. Она предназначена для генерации текста в задачах анализа данных и обучена на наборах nemotron_easy_data_science, nemotron_medium_data_science и nemotron_mixed_data_science. Модель использует архитектуру Qwen3ForCausalLM и принимает текстовые запросы, выдавая текстовые ответы. Указанная длина контекста — 40 960 токенов; формат весов — safetensors, для работы заявлена библиотека Transformers. Базовая Qwen3-8B поддерживает несколько языков, однако языки и качество именно этой дообученной версии в карточке не уточнены. Лицензия указана как other, без конкретных условий в предоставленных данных. Карточка не содержит сведений об оценке качества и ограничениях применения.
ABForge-Qwen3-8B-Task1-SFT — языковая модель, разработанная SlowGuess для определения целей абляции в научных статьях. Она дообучена методом supervised fine-tuning на базе Qwen/Qwen3-8B и принимает контекст статьи без результатов абляции, предлагая пары «целевой модуль — исследовательский вопрос», которые описывают компонент для исключения и цель такого эксперимента. Модель предназначена для поддержки проектирования и анализа абляционных экспериментов в научных исследованиях. Это плотная авторегрессионная модель семейства Qwen3 с 7,6 млрд параметров, работающая через Transformers; заявленный контекст — 40 960 токенов. Карточка указывает английский язык. Модель распространяется по лицензии Apache-2.0. Предложения модели следует проверять по исходной статье и исследовательскому замыслу: карточка описывает специализированную задачу и оценку на отложенной выборке AblationBench, но не приводит численных результатов. Модель не заменяет экспертную проверку научного дизайна эксперимента.
hanzla/gemma-2b-datascience-instruct-v4.5 — дообученная модель hanzla на базе google/gemma-2b. Это плотная авторегрессионная языковая модель архитектуры Gemma с 2,5 млрд параметров, предназначенная для генерации текста; название указывает на ориентацию на инструкции и задачи анализа данных, однако карточка не описывает конкретные сценарии или результаты обучения. Модель принимает текст и выдаёт текст, поддерживает английский язык и имеет контекстное окно до 8192 токенов. В README указано, что при обучении использовались Unsloth и библиотека TRL. Лицензия — Apache-2.0.
ABForge-Qwen3-8B-RL — экспериментальная версия модели ABForge от SlowGuess для проектирования абляционных исследований по научным статьям. Получив описание методологии статьи без раздела об абляциях, модель предлагает цели для проверки и составляет план экспериментов; обе задачи выполняются одной моделью. Модель построена на Qwen3-8B и дообучена методом GRPO по рубрикам в течение 200 обновлений без предварительного SFT. Это RL-only вариант из абляционного исследования ABForge, а не основная версия с последовательностью SFT и GRPO. Модель содержит 7,6 млрд параметров, использует архитектуру Qwen3ForCausalLM и формат safetensors. Она принимает текст и генерирует текст, рассчитана на английский язык; контекст — до 40 960 токенов. В тесте AblationBench на 200 статьях RL-only модель получила 52,2 балла за определение целей абляций и 54,9 за синтез планов экспериментов по автоматической оценке языковой моделью. Для воспроизводимых результатов README рекомендует использовать шаблоны запросов из кода проекта и жадное декодирование. Лицензия — Apache-2.0.
Карточка модели hanzla/gemma-2b-datascience-instruct-v4 на Hugging Face совпадает с карточкой hanzla/gemma-2b-datascience-instruct-v4.5, поэтому описание составлено по ней. hanzla/gemma-2b-datascience-instruct-v4.5 — дообученная модель hanzla на базе google/gemma-2b. Это плотная авторегрессионная языковая модель архитектуры Gemma с 2,5 млрд параметров, предназначенная для генерации текста; название указывает на ориентацию на инструкции и задачи анализа данных, однако карточка не описывает конкретные сценарии или результаты обучения. Модель принимает текст и выдаёт текст, поддерживает английский язык и имеет контекстное окно до 8192 токенов. В README указано, что при обучении использовались Unsloth и библиотека TRL. Лицензия — Apache-2.0.
Карточка модели hanzla/gemma-2b-datascience-instruct-v3.5 на Hugging Face совпадает с карточкой hanzla/gemma-2b-datascience-instruct-v4.5, поэтому описание составлено по ней. hanzla/gemma-2b-datascience-instruct-v4.5 — дообученная модель hanzla на базе google/gemma-2b. Это плотная авторегрессионная языковая модель архитектуры Gemma с 2,5 млрд параметров, предназначенная для генерации текста; название указывает на ориентацию на инструкции и задачи анализа данных, однако карточка не описывает конкретные сценарии или результаты обучения. Модель принимает текст и выдаёт текст, поддерживает английский язык и имеет контекстное окно до 8192 токенов. В README указано, что при обучении использовались Unsloth и библиотека TRL. Лицензия — Apache-2.0.
Модель Zhengping/conditional-probability-regression разработана Liaoyaqi Wang, Zhengping Jiang, Anqi Liu и Benjamin Van Durme. Это дообученная на базе Qwen/Qwen2.5-14B-Instruct модель для оценки условных вероятностей с высокой детализацией; авторы описывают её как регрессионную модель на основе декодирования, оформленную как задача классификации. Модель предназначена для оценки вероятности события при заданном условии, в том числе для исследовательских сценариев, связанных с работой «Always Tell Me The Odds: Fine-grained Conditional Probability Estimation». Она принимает текст и генерирует текстовый ответ. Модель основана на плотной архитектуре Qwen2, содержит 14 млрд параметров и поддерживает контекст до 32 768 токенов. В карточке заявлена поддержка английского языка. Модель опубликована в формате safetensors и доступна по лицензии MIT. Она унаследовала диалоговые и структурированные возможности базовой модели, однако карточка не приводит подробной инструкции по формату запросов и ответов, а раздел примера использования не заполнен; качество численных оценок и калибровка на конкретных данных требуют отдельной проверки.
tinyopsec/llama3.2-1b-CoT-GGUF — GGUF-квантизированные версии дообученной текстовой модели harshwardhanjadhav/llama3.2-1b-CoT, созданной на основе unsloth/Llama-3.2-1B-Instruct. Модель предназначена для генерации текста, многошагового решения математических задач и аналитического рассуждения. Она обучена на 10 000 примерах из датасета OpenThoughts-114k и формирует структурированные цепочки рассуждений в блоках <|begin_of_thought|> и <|begin_of_solution|>. Заявлен английский язык и поддержка библиотеки GGUF. Доступны варианты с точностью от 2 до 16 бит и размером примерно от 0,45 до 2,5 ГБ; рекомендуемым указан вариант Q5_K_M. Квантизация позволяет запускать модель на системах с ограниченными ресурсами: минимальные требования к VRAM составляют около 1 ГБ для Q2_K, 1,5 ГБ для Q4_K_M и 4 ГБ для F16. Для работы с CoT требуется специальный системный промпт, а рекомендуемые параметры включают temperature 0,1, repetition penalty 1,15 и контекст генерации до 4096 новых токенов. Сильные стороны модели — компактность, несколько вариантов компромисса между качеством и размером, а также специализация на математических и аналитических задачах. Ограничения включают небольшой размер базовой модели, заявленную ориентацию на английский язык, необходимость специального формата промпта для цепочек рассуждений и возможное снижение качества при агрессивной квантизации. Модель распространяется по лицензии Apache-2.0.
Модель syntheticbot/clip-face-attribute-classifier разработана на основе openai/clip-vit-large-patch14 и дообучена для многозадачной классификации лиц по изображениям. Она принимает изображение лица и выдаёт отдельные предсказания воспринимаемого возраста по 9 категориям, гендера по 2 категориям и расовой категории по 7 группам; обучалась на сбалансированном датасете FairFace. Модель предназначена для исследовательского анализа справедливости и смещений, публичного базового решения и учебных демонстраций классификации изображений. На валидационной выборке FairFace указана точность 96,38% для гендера, 73,22% для расовых категорий и 59,17% для возраста. Качество различается между группами и ниже для некоторых расовых категорий и старших возрастов; предсказания отражают воспринимаемые визуальные признаки, а не самоидентификацию человека. Разработчик предостерегает от применения для наблюдения, отслеживания и решений, влияющих на права или возможности людей. Для загрузки требуется пользовательский класс MultiTaskClipVisionModel, а не стандартный AutoModel. Лицензия — Apache-2.0.
FIM-PP — модель FIM4Science для анализа маркированных временных точечных процессов. Она оценивает условные функции интенсивности событий по контекстному набору последовательностей и поддерживает применение без дообучения, а также последующую тонкую настройку. Модель построена на архитектуре FIMHawkes и загружается через Transformers; для работы также требуется пакет fim. Выпущенный чекпойнт настроен максимум на 22 типа событий и ожидает контекстные данные и тензоры вывода в формате Hawkes, описанном в учебном руководстве OpenFIM по точечным процессам. Лицензия — MIT.
LDM-CoT-SFT-Qwen3.5-9B-MixedScience — дообученная Yangtze AI Lab модель Qwen3.5-9B, предназначенная для роли proposer в цикле Large Discovery Models. Она анализирует историю экспериментов и предлагает следующий кандидат для проверки, учитывая, какие области поиска уже исследованы, а где остаётся неопределённость. В отличие от родственной версии, значения Gaussian process и функции приобретения скрыты от модели: выводы об исследовании или эксплуатации она строит по наблюдениям и их текстовому описанию. Модель обучена полнопараметрическим supervised fine-tuning на наборе LDM-CoT-SFT-16K; её ответы включают рассуждение на английском языке и структурированное действие. Она рассчитана на работу внутри цикла generate → select → evaluate → update и сама не оценивает предложенные кандидаты. Поведение зависит от оракулов и предметных областей, представленных при сборе данных. Репозиторий распространяется по лицензии MIT.
LIJINGHAI111 разработал компактную модель символической регрессии на PyTorch с энкодером DeepSets и LSTM-декодером. По набору наблюдений, где каждому объекту соответствуют до четырёх независимых переменных и целевое значение, она генерирует строку математического выражения, описывающего зависимость, например формулу для эмпирических или экспериментальных данных. В отличие от обычной регрессии, результатом служит интерпретируемое выражение, а не только прогнозы или коэффициенты. В модели около 66 тысяч параметров. Энкодер DeepSets обрабатывает точки с общими весами и агрегирует их независимо от порядка, а LSTM генерирует последовательность токенов выражения. Репозиторий содержит веса PyTorch и самодостаточную структуру для локального запуска без библиотеки transformers. Метаданные указывают поддержку китайского и английского языков; сама задача не требует текстового диалога. Модель предназначена для поиска формул по данным в физических и инженерных экспериментах, интерпретации чёрного ящика и проверки или упрощения выражений. Предварительное обучение лучше покрывает сложные случайные выражения, поэтому простые зависимости могут распознаваться хуже. Иногда генератор выдаёт некорректные или не имеющие смысла в заданной области выражения; README отмечает фильтрацию таких кандидатов при самооценке. Поддерживается не более четырёх переменных. Лицензия — Apache-2.0.
Mihaiii/Pallas-0.5-LASER-0.2 — плотная языковая модель семейства Llama на 33,9 млрд параметров, доработанная разработчиком Mihaiii методом LASER на базе Mihaiii/Pallas-0.5-LASER-0.1. Вмешательство rank-reduction применено к проекциям self-attention на слое 58 с коэффициентом 9,0. Модель предназначена для генерации текста и экспериментов с оценкой причинных суждений на подмножестве causal_judgement датасета BIG-Bench. В README приведены результаты accuracy и log loss на валидации и тесте для исходной Pallas-0.5 и двух вариантов LASER; у версии 0.2 тестовая accuracy составляет 61,184%. Для воспроизведения автор указывает запуск на одном A100 с изменённой веткой кода, поскольку исходный код приводит к нехватке памяти для моделей на 34 млрд параметров. Контекст модели — до 200 000 токенов. Репозиторий содержит веса Safetensors; лицензия обозначена как other, без уточнения условий в предоставленных данных.
TokSuite–Aya — базовая языковая модель из набора TokSuite, созданного для изучения влияния выбора токенизатора на поведение языковых моделей в контролируемых условиях. Модель разработана авторами TokSuite; она использует токенизатор Aya на основе BPE с GPT-2-предобработкой, словарём из 255 029 токенов и обработкой неизвестных последовательностей через байтовый fallback. Архитектура — плотный decoder-only Transformer семейства Llama, основанный на конфигурации Lingua Llama 3.2 1B. Метаданные указывают 1,8 млрд параметров и контекст 8192 токена; в README указаны около 1 млрд параметров без эмбеддингов и контекст 4096 токенов. Модель предназначена для исследований мультиязычной токенизации, устойчивости к орфографическим и форматным искажениям, сравнительных экспериментов и бенчмаркинга. Она обучена на корпусе примерно из 100 млрд токенов: английском и мультиязычной части на китайском, турецком, итальянском и фарси. Это базовая модель, не настроенная на выполнение инструкций, диалог или развёртывание в пользовательских приложениях; результаты README ориентированы на исследовательские и бенчмарковые сценарии. Модель распространяется в формате safetensors по лицензии MIT. В README отмечены ограниченный набор из пяти языков, возможные смещения обучающих веб-данных и зависимость объёма увиденного исходного текста от эффективности токенизатора; для высокорисковых или пользовательских сценариев требуется дополнительная проверка.
TokSuite–XGLM — языковая модель из набора TokSuite, разработанного для изучения влияния токенизатора на поведение языковых моделей. Модель предназначена для исследовательских экспериментов, многоязычного анализа и сравнительных испытаний устойчивости к искажениям текста. В контролируемом наборе TokSuite модели используют одинаковые архитектуру, обучающие данные, бюджет обучения и общую инициализацию пересекающихся элементов словаря; здесь используется токенизатор XGLM, а не остальные варианты токенизации набора. Это авторегрессионный декодерный Transformer на конфигурации Llama-3.2-1B, с примерно 1 млрд нетокенизаторных параметров по README; метаданные указывают 1,8 млрд параметров и контекст 8192 токена. README описывает контекст 4096 токенов. Токенизатор XGLM использует Unigram, SentencePiece, словарь размером 256 008 токенов и обработку неизвестных символов через байтовый резерв. Обучение проводилось на многоязычном корпусе примерно из 100 млрд токенов: английском, китайском, турецком, итальянском и фарси. Модель принимает текст и генерирует текст. В оценках TokSuite модель показала устойчивость к некоторым изменениям Unicode, визуально похожим символам и вариациям письменности; сильная нормализация Unicode помогает уменьшить чувствительность к поверхностным форматным различиям. Модель не настроена на выполнение инструкций, диалог или эксплуатационное развёртывание. Она обучена только на пяти языках, а фиксированный бюджет токенов влияет на объём исходного текста, увиденного при обучении. Лицензия — MIT.
Llama-3.1-Tulu-3-70B-SFT-RM-RB2 — англоязычная модель вознаграждения Allen Institute for AI, выпущенная в наборе чекпойнтов для разработки бенчмарка Reward Bench 2. Это классификатор на архитектуре Llama 3.1 с 69,5 млрд параметров, дообученный на бинарных данных о предпочтениях на основе allenai/Llama-3.1-Tulu-3-70B-SFT. В основной ревизии использованы объединённые данные; дополнительные ревизии содержат другие сочетания обучающих данных и гиперпараметров. Модель оценивает предпочтительность ответа и подходит для сравнения вариантов ответа, ранжирования результатов и использования в экспериментах с обучением по сигналу вознаграждения, включая PPO и Best-of-N. README сообщает результат 72,2 на RewardBench 2 для основной ревизии. Модель обрабатывает текст и выдаёт классификационные оценки. Лицензия — Llama 3.1 Community License Agreement. Контекст модели — до 131 072 токенов.
jkminder/d26_973m_seed4 — исследовательская базовая языковая модель из серии Scaling Ladder, разработанной для изучения различий между случайными запусками предобучения. Это плотная GPT-архитектура NanochatGPT с примерно 973 млн параметров. Модель обучена предсказывать следующий токен на данных NVIDIA ClimbMix; доступные ревизии содержат контрольные точки обучения при разных бюджетах токенов на параметр. Модель предназначена для экспериментов с предобучением и анализа влияния случайного зерна на качество языковых моделей. Это базовая модель без дообучения на инструкциях и без обучения безопасности, поэтому она не настроена для диалога и может продолжать текст, не следуя пользовательским инструкциям. Контекст составляет 2048 токенов; в карточке указан английский язык. Модель распространяется в формате Safetensors и загружается через Transformers. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
Jeesup/svd-safety-l31_swift_remove50 — исследовательский чекпойнт на основе Meta Llama 3.1 8B Instruct, сжатый методом Swift-SVD примерно до половины исходного числа параметров и дополнительно восстановленный с помощью LoRA. Модель содержит около 7,5 млрд параметров, использует архитектуру Llama и формат safetensors; заявленная длина контекста — 131 072 токена. Она предназначена для изучения того, как сжатие влияет на безопасность и полезность ответов, а также для оценки методов восстановления поведения модели. Модель поддерживает генерацию текста и диалоговый интерфейс; в метаданных также указана поддержка интерфейса вызова инструментов. Карточка приводит результаты на наборах AdvBench, StrongREJECT и WildGuard, включая доли успешных атак и избыточных отказов. Это отдельный экспериментальный вариант из сетки сравнений, а не универсальный помощник: некоторые варианты исследования намеренно ухудшают защитное поведение. Использование регулируется лицензией Llama 3.1.
GneissWeb.7B_ablation_model_on_350B_GneissWeb.seed1 — языковая модель IBM Research, входящая в серию абляционных экспериментов GneissWeb. Это плотная авторегрессионная модель семейства LLaMA примерно с 7 млрд параметров (6,6 млрд по метаданным), обученная на случайной выборке из 350 млрд английских токенов GneissWeb с токенизатором StarCoder. Контекст составляет 8192 токена. Модель предназначена прежде всего для исследовательского сравнения влияния обучающих корпусов на качество предварительно обученных языковых моделей. Она генерирует текст и может использоваться для экспериментов с генеративными задачами, но не проходила настройку на инструкции или выравнивание безопасности, поэтому не рассчитана на надёжное следование запросам и может выдавать предвзятый, недостоверный или проблемный контент. Возможна дословная генерация фрагментов обучающих данных. Распространяется по лицензии Apache 2.0.
TokSuite–GPT-2 — базовая языковая модель из набора TokSuite, разработанного для контролируемого изучения влияния токенизатора на поведение языковых моделей. Это плотный декодерный Transformer на конфигурации Llama-3.2-1B от Meta Lingua с примерно 1,4 млрд параметров по метаданным и контекстом до 8192 токенов по метаданным. Вариант использует токенизатор GPT-2 с BPE и словарём из 50 257 токенов; карточка описывает его как англоязычный токенизатор с обработкой байтов вне словаря. Модель предназначена для исследований токенизации, устойчивости к текстовым искажениям, многоязычного анализа и контролируемых сравнительных экспериментов. Её можно применять для генерации текста и оценки поведения языковой модели на чистом и зашумлённом вводе. Обучающий корпус включает английский, китайский, турецкий, итальянский и фарси, хотя сам токенизатор ориентирован на английский. Модель не настроена на следование инструкциям, диалог или эксплуатационное развертывание; карточка позиционирует её для исследований. README указывает контекст 4096 токенов, тогда как метаданные каталога указывают 8192. Лицензия — MIT.
EleutherAI/pythia-160m-weight-seed2 — базовая авторегрессионная языковая модель из серии PolyPythias, созданной для систематического изучения стабильности и воспроизводимости предобучения. Это вариант Pythia на 151,9 млн параметров с отдельным случайным начальным значением весов; порядок обучающих данных фиксирован. Модель построена на архитектуре GPT-NeoX и предназначена для продолжения текста и исследовательских экспериментов с языковыми моделями. Модель обучена на корпусе The Pile объёмом 300 млрд токенов, преимущественно на английском языке. Контекст составляет 2048 токенов. В репозитории доступны многочисленные промежуточные контрольные точки обучения; они позволяют анализировать поведение модели на разных этапах предобучения. Модель не дообучена для следования инструкциям и выдаёт продолжение текста по следующему токену. Весовая лицензия — Apache-2.0. Модель не предназначена для производственного развертывания; она может воспроизводить предвзятое, оскорбительное или фактически неверное содержание из обучающих данных и не имеет фильтрации безопасности или точности.
AhmetcanYvz/comp-vs-like-1B-unigramlm-multi-128k — плотная языковая модель в стиле Llama, созданная для исследования токенизации в работе «Objective vs. Search: Decomposing What Makes a Good Tokeniser» (EMNLP 2026). Модель содержит 1,23 млрд параметров, имеет 22 слоя и использует токенизатор UnigramLM с размером словаря 128 000; контекст — 2048 токенов. Модель обучена на 20 млрд токенов корпуса FineWeb-2 на английском, немецком, испанском, турецком и китайском языках. Она предназначена для экспериментов по сравнению токенизаторов и оценке языковых моделей, в том числе по метрикам bits-per-byte и BLiMP; в коллекции модели отличаются токенизатором, что позволяет изучать его влияние. Это базовая модель для генерации текста, без дообучения на инструкции. Она выпущена под лицензией MIT. Модель не предназначена для развёртывания в пользовательских приложениях; она не настроена на выполнение инструкций и не прошла фильтрацию безопасности. Результаты генерации могут содержать небезопасный контент.
jkminder опубликовал этот исследовательский чекпойнт семейства Scaling Ladder: базовую плотную GPT-модель для предсказания следующего токена. Вариант d16 содержит 268 млн параметров, 16 слоёв и скрытый размер 1024; в метаданных указано окно контекста 2048 токенов. Модель обучалась на английском языке на данных nvidia/ClimbMix и доступна в формате safetensors. Чекпойнт предназначен для изучения разброса результатов предобучения между случайными инициализациями и порядками данных, а также для экспериментов с масштабированием языковых моделей. Это базовая модель без дообучения для следования инструкциям и без обучения безопасности, поэтому она не ориентирована на диалоговое применение без дополнительной настройки. README описывает несколько ревизий контрольных точек обучения; для измерений автор рекомендует ревизии TPP_X. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерчески.
decider-2b-coherent v1.1 — дообученная модель Mapika для вероятностного принятия решений по нескольким вопросам, связанным с одним контекстом. Она использует замороженную Mapika/decider-2b и добавляет обученную связь между ответами, адаптер маргинальных вероятностей и доменный классификатор. Репозиторий содержит только 9,5 млн параметров дополнительных весов; базовая модель загружается отдельно. Модель возвращает совместное распределение по вариантам ответов, а его маргинальные распределения согласованы с ним с помощью итеративного пропорционального подгоняющего алгоритма (IPF). Для одного вопроса связь между ответами не применяется. Основной сценарий — выдача согласованных вероятностей ответов на несколько вопросов по одному состоянию или контексту, включая задачи бенчмарка BookieBench. Для входов, распознанных как задачи в стиле BookieBench, доменный адаптер корректирует маргинальные вероятности; на остальных входах используются маргинальные оценки базовой decider-2b. Модель предназначена для структурированных задач с заранее заданными вариантами ответа, а не для свободной генерации текста. В README сообщается о нулевом Dutch book на группах BookieBench и близких к базовой модели показателях на регрессионном наборе. Модель использует архитектуру decider-coherent dense и формат PyTorch; для работы нужны базовая модель Mapika/decider-2b и код репозитория. README указывает обучение дополнительных компонентов на данных BookieBench и обучающей части смеси decider; обучение проведено с одним seed. Лицензия — Apache-2.0.
Parc-Pythia (Seed 5) — англоязычная авторегрессионная языковая модель, разработанная James Michaelov в составе серии Parc. Это плотный трансформер GPT-NeoX на 151,9 млн параметров, дообученный на базе EleutherAI/pythia-160m; контекст модели составляет 2048 токенов. Серия Parc обучалась на 2 млрд токенов OpenWebText и создана для анализа динамики обучения и сравнения архитектур при одинаковых данных и шагах обучения. Модель генерирует продолжение текста и предназначена прежде всего для исследовательских экспериментов с языковыми моделями, включая изучение влияния случайного seed и оценку на языковых бенчмарках. Она не прошла инструкционную настройку и не рекомендуется для развертывания: качество и достоверность ответов не гарантированы, а данные OpenWebText недостаточно документированы, поэтому модель может воспроизводить вредный или оскорбительный текст. Лицензия — Apache 2.0.
EleutherAI/pythia-160m-data-seed1 — базовая языковая модель из серии PolyPythias, разработанной EleutherAI для изучения стабильности и воспроизводимости предварительного обучения. Это плотная авторегрессионная модель GPT-NeoX с 151,9 млн параметров и контекстом до 2048 токенов; она предсказывает следующий токен и предназначена для генерации текста и исследовательских экспериментов. Вариант data-seed1 использует фиксированную инициализацию весов и отдельный порядок обучающих данных, что позволяет изучать влияние порядка данных независимо от случайной инициализации. Модель обучена на корпусе The Pile; доступны промежуточные контрольные точки обучения. Модель ориентирована преимущественно на английский язык, не дообучена для выполнения инструкций и может генерировать предвзятый, оскорбительный или фактически неверный текст. README указывает, что она не предназначена для производственного развертывания. Лицензия — Apache-2.0.
EleutherAI/pythia-31m-seed4 — базовая языковая модель из серии PolyPythias, созданной EleutherAI как расширение проекта Pythia для изучения устойчивости обучения и воспроизводимости. Это вариант Pythia-31M с отдельным случайным seed; модель обучена предсказывать следующий токен на корпусе The Pile. Модель построена на плотной архитектуре GPT-NeoX и содержит 19,2 млн параметров по метаданным. Она принимает текст и генерирует текст, имеет контекстное окно 2048 токенов и рассчитана преимущественно на английский язык. Доступны многочисленные промежуточные чекпойнты обучения, что позволяет исследовать динамику обучения и сравнивать результаты между запусками. Модель предназначена для исследовательских экспериментов с языковым моделированием и воспроизводимостью, а не для готового диалогового помощника: она не настроена на выполнение инструкций, а её выходы не фильтруются и могут содержать ошибки, предвзятые или оскорбительные формулировки. Лицензия — Apache-2.0.
Jeesup/svd-safety-l3_swift_jbbsft1_remove50 — исследовательский чекпойнт на основе Meta-Llama-3-8B-Instruct, разработанный для изучения влияния сжатия на безопасность и полезность диалоговой языковой модели. Веса сжаты методом Swift-SVD с динамическим распределением рангов: удалено около 50% параметров. Затем модель восстановлена с помощью второго этапа SVD-LLM и LoRA с последовательным обучением компонент U и V. Модель предназначена для сравнительных экспериментов по измерению устойчивости к вредоносным запросам и избыточных отказов после сжатия. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Это экспериментальная ячейка исследования, а не универсальный чат-ассистент; отдельные варианты в серии намеренно имеют ухудшенные показатели безопасности. Модель генерирует текст, основана на архитектуре Llama и имеет контекст 8192 токена. Для использования действует лицензия Llama 3.