I.2Синтез, понимание и проверка знаний

JoaoBoer/tofu_Llama-3.2-3B-Instruct_forget10_UNDIAL — плотная авторегрессионная языковая модель семейства Llama 3.2 объёмом 3,2 млрд параметров. Она получена дообучением open-unlearning/tofu_Llama-3.2-3B-Instruct_full методом UNDIAL на части forget10 датасета TOFU в рамках проекта open-unlearning. Модель предназначена для генерации текста и диалоговых сценариев, а также для экспериментов по удалению запомненной информации из весов. В проекте Speculative-Decoding-Unlearning она используется как базовая модель с unlearning и черновая модель для спекулятивного декодирования. Для оценки приведены метрики TOFU: exact_memorization 0,3281, extraction_strength 0,0353 и forget_Q_A_PARA_Prob 0,1054. Контекстное окно составляет до 131 072 токенов; для работы указана библиотека Transformers. Модель подходит прежде всего для исследований unlearning и экспериментальных сценариев генерации, а не для безусловного применения как универсального ассистента. Метрики в карточке относятся к оценке на TOFU и сами по себе не подтверждают качество на других задачах или полноту удаления знаний. Лицензия — Llama 3.2.

TOLM Structured Direct-Sum syntax prior — уже обученный чекпойнт, опубликованный miguelcsx из контролируемого исследовательского турнира BabyLM. Репозиторий сохраняет выбранную версию chck_100M; других новых экспериментов в этом выпуске нет. Модель на архитектуре TOLM с классом TOLMForMaskedLM содержит 49,1 млн параметров и предназначена для заполнения пропусков в тексте и изучения синтаксических закономерностей английского языка. В метаданных также указана поддержка генерации текста. Для загрузки пользовательской архитектуры в Transformers требуется удалённый код; README рекомендует предварительно проверить tolm.py. Лицензия обозначена как other. В карточке приведены существующие результаты BLiMP 65,30, Supp 57,60 и EWoK 49,09; для этой публикации обучение и оценивание не проводились. Это исследовательский чекпойнт из турнира BabyLM, поэтому приведённые оценки относятся к существующей записи турнира, а не к новому запуску.

LittleLearner — плотная языковая модель семейства Qwen3 с 5 млрд параметров, разработанная в рамках исследования масштабирования LittleLearner. Модель дообучена на диалоговых данных, а затем методом GRPO на задачах математического рассуждения; для предобучения использовался неограниченный по школьному уровню корпус FineWeb-Edu. Она принимает текст и генерирует текст, поддерживает чат и следование инструкциям. Контекстное окно составляет 4096 токенов; в карточке указан английский язык. Модель предназначена прежде всего для решения математических задач и исследования влияния состава обучающих данных на математические способности. В оценке MathCAMPS показаны результаты pass@1 60,2 для задач уровня K–5 и 28,9 для задач выше K–5. Специализация на математике может ухудшать универсальные диалоговые способности и смещать ответы к математическим рассуждениям. Репозиторий распространяется под лицензией с обозначением «other»; конкретные условия лицензии в предоставленных данных не раскрыты.

Undi95/Unholy-8B-DPO-OAS — экспериментальная текстовая чат-модель на базе архитектуры Llama с 7,5 млрд параметров и контекстом до 8192 токенов. Автор описывает её как тестовую сборку, созданную с помощью Orthogonal Activation Steering (OAS). По карточке, сначала Unholy была дообучена на токсичном датасете на базе L3, затем поверх неё провели два эпоха DPO на том же датасете и применили OAS, подбирая слой. Модель предназначена для генерации текста в диалоге. В карточке не приведены сведения о языках и лицензии; она не описывает оценки качества или надёжности.

Карточка модели ahans1/32-goldfish-loss-llama-1B на Hugging Face совпадает с карточкой ahans1/standard-loss-llama-1B, поэтому описание составлено по ней. ahans1/standard-loss-llama-1B — исследовательский чекпойнт авторов работы Goldfish Loss: Mitigating Memorization in Generative LLMs. Это плотная причинная языковая модель семейства Llama примерно на 1 млрд параметров, созданная на архитектуре TinyLLaMA-1.1B со случайной инициализацией. В отличие от вариантов Goldfish Loss, модель обучалась стандартной функцией потерь для причинного языкового моделирования. Модель предназначена для генерации текста и сравнительных экспериментов по запоминанию обучающих данных. Она предварительно обучена на 20 млрд токенов RedPajama; в карточке также упоминается набор Wikipedia для проверки запоминания. Метаданные указывают английский язык и контекст 2048 токенов. Репозиторий содержит веса Safetensors и объявляет лицензию Apache-2.0. Качество генерации и пригодность для конкретных прикладных задач в карточке не описаны.

leukas/amlm_hard — модель для заполнения пропусков в тексте, опубликованная пользователем leukas в коллекции BabyLM 2025 на Hugging Face. Метаданные указывают на архитектуру DeBERTa-v2 с 40,1 млн параметров и контекстом до 1024 токенов; модель использует Transformers и опубликована в формате safetensors. Её задача — предсказывать замаскированные токены в текстовой последовательности, что подходит для языкового моделирования и анализа текста с пропусками. В доступных источниках не удалось установить поддерживаемые естественные языки, лицензию или специальные прикладные области. Карточка коллекции относит модель к серии BabyLM 2025, однако подробные сведения о данных обучения и результатах оценки для этого чекпойнта не подтверждены.

Aryabhata 1.0 GGUF — квантованная версия 7-миллиардной авторегрессионной decoder-based языковой модели для математики, разработанная Physics Wallah AI Research и представленная в формате GGUF автором Mungert. Модель основана на Qwen/Qwen2.5-Math-7B и ориентирована прежде всего на решение задач уровня индийского вступительного экзамена JEE Main, особенно по математике. Это экспериментальный релиз, предназначенный для генерации текста и рассуждений при относительно низкой стоимости инференса. Модель обучалась на примерно 130 тысячах отобранных пар «задача—решение» из экзаменационных данных Physics Wallah с применением объединения моделей, rejection sampling, supervised fine-tuning и reinforcement learning with verifiable rewards. Указана поддержка английского языка. По данным карточки, модель эффективно работает примерно в окне на 2 тысячи токенов и показала точность 86% на сессии JEE Main за январь 2025 года и 90,2% на сессии за апрель 2025 года; оценки получены при temperature 0.0 и рассчитаны по pass@1. Сильные стороны модели — специализация на математическом рассуждении, экзаменационных сценариях и экономичном использовании токенов. Ограничения включают узкую ориентацию на JEE Mathematics, экспериментальный статус, отсутствие заявленной поддержки других модальностей и языков, а также зависимость качества от квантования. Для версии GGUF автор описывает повышение точности отдельных важных слоёв за счёт увеличения их разрядности, что может повысить размер файла. Модель распространяется по лицензии Apache-2.0.

BabyBERTa-1 — компактная модель семейства RoBERTa для языковых исследований, разработанная Филипом Хюбнером из лаборатории Language and Learning Lab Университета Иллинойса. Модель содержит 10,5 млн параметров и обучена на 5 млн слов американского английского языка, адресованных детям. Она предназначена для изучения усвоения языка и грамматических знаний по детской речи, а также для заполнения маскированных слов в английском тексте. Модель оценивает грамматические знания на наборе Zorro; для BabyBERTa-1 в карточке приведена точность 80,3 при holistic scoring и 79,9 при MLM-scoring. Максимальный контекст — 130 токенов. Это одна из трёх случайно выбранных моделей из десяти обученных для исследования. Для корректной работы токенизатора требуется параметр add_prefix_space=True. Сведения о лицензии в предоставленных данных отсутствуют.

LuRr/babylm-chinese-deberta-v2-14m-CL — компактная модель DeBERTa-v2 для предсказания замаскированных токенов. Её обучили с нуля для Chinese BabyLM Challenge 2026 на официальном корпусе Chinese BabyLM объёмом около 102 млн токенов, применив четырёхэтапное обучение с постепенным увеличением длины последовательностей. Модель содержит 15,9 млн параметров по метаданным; в README указана оценка около 14,67 млн. Архитектура включает 12 слоёв, размер скрытого состояния 256 и 8 голов внимания. Для токенизации используется BertTokenizer с WordPiece и словарём из 12 800 токенов. Максимальная длина контекста — 512 токенов. Модель предназначена для китайского языка; в карточке приведены результаты на ZhoBLiMP, AFQMC и OCNLI. Она подходит для экспериментов с языковым моделированием и оценки грамматических или семантических предпочтений китайского текста, а также для заполнения пропусков. Это небольшая исследовательская модель, и её результаты не гарантируют качества для широкого спектра прикладных сценариев. Лицензия — Apache-2.0.

Это англоязычная модель BERT для восстановления замаскированных слов в текстах. Она обучена командой проекта Living with Machines на корпусе исторических книг, изданных в 1760–1850 годах; корпус содержит около 1,3 миллиарда токенов. Модель насчитывает 136,7 млн параметров, использует архитектуру BERT для masked language modeling и принимает последовательности длиной до 512 токенов. Модель подходит для подстановки пропусков и анализа исторической английской лексики в текстах соответствующего периода. Её можно применять в исследованиях истории языка и цифровой гуманитаристике, например, чтобы изучать контекстное употребление слов в книгах 1760–1850 годов. README не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.

Narrativaai/BioGPT-Large-finetuned-chatdoctor — дообученная на наборе ChatDoctor-200K версия BioGPT Large от Microsoft. Это языковая модель на базе плотного причинного Transformer-декодера, предназначенная для генерации ответов на вопросы о здоровье в формате беседы с пациентом. Модель содержит 2,1 млрд параметров, принимает и генерирует текст на английском языке; длина контекста — 2048 токенов. Модель можно применять для исследовательских прототипов медицинских чат-ботов и подготовки ответов на общие вопросы о здоровье. Данные для дообучения включают реальные диалоги пациентов и врачей, а также сгенерированные диалоги. Лицензия — Apache-2.0. Модель не является заменой профессиональной медицинской консультации; в карточке конкретные технические ограничения качества не описаны.

QizhiPei/biot5-plus-base-mol-instructions-protein — текстовая модель семейства T5 для генерации текста по текстовому запросу. Репозиторий содержит веса для Transformers в форматах PyTorch и Safetensors; архитектура — T5ForConditionalGeneration, размер — 126 млн параметров. По названию репозитория модель предназначена для работы с молекулярными инструкциями и белками, однако README не описывает конкретные задачи и качество модели. Модель использует английский язык и распространяется по лицензии MIT. Её можно загружать вместе с токенизатором через Transformers. Длина контекста и специальные ограничения применения в карточке не описаны.

BODHI-qwen-3-maze-8b-distil — текстовая авторегрессионная модель семейства Qwen3, разработанная как артефакт проекта BODHI и дообученная на основе Qwen/Qwen3-8B-Base. Она предназначена для генерации текста в диалоговом режиме и сценариев, связанных с лабиринтами. Веса представлены в формате safetensors; модель содержит 7,6 млрд параметров и поддерживает контекст до 40 960 токенов. В метаданных указан английский язык и лицензия MIT. Карточка не раскрывает подробности задач с лабиринтами, датасета или качества модели.

Eugleo разработал контрольную базовую языковую модель nanochat-d26 ClimbMix для исследования влияния корреляций в данных предобучения. Это плотная авторегрессионная nanochat GPT-модель примерно на 1 млрд параметров: README указывает 972,9 млн, а метаданные — 1,2 млрд. Она предсказывает следующий токен и не является чат-моделью. Модель обучена на английских веб-текстах из зафиксированного корпуса NVIDIA ClimbMix, на одном проходе по 7,35 млрд токенов; её контекст ограничен 2048 токенами. Модель предназначена прежде всего для исследовательских сравнений и оценки базовых языковых способностей, а не для диалогового применения. В исследовании она служит контрольной версией без вмешательства в данные; README приводит результаты на отложенной части ClimbMix и наборе CORE. Весы доступны в формате safetensors, обучение выполнялось с точностью bfloat16. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование. Реализация использует нестандартные компоненты и требует trust_remote_code=True; пакетные входы с дополнением не поддерживаются, если строки имеют разную длину.

Banaxi-Tech custom-optimizer-model-test — экспериментальная базовая авторегрессионная языковая модель BananaMind 2 Nano, обученная с нуля с использованием оптимизатора Aspect-Cautious Muon. Модель содержит около 10 млн параметров, имеет 10 слоёв и размер скрытого состояния 256; для загрузки использует Transformers и требует trust_remote_code=True. Длина контекста — 4096 токенов. Модель предназначена для генерации текста и языковых экспериментов. Обучение проводилось на потоковых данных FineWeb-Edu с пользовательским токенизатором, всего использовано около 25 млрд токенов. Карточка указывает английский язык. Веса опубликованы в формате safetensors по лицензии Apache-2.0. Это небольшой экспериментальный чекпойнт; README не приводит оценок качества или результатов сравнительных тестов.

jkminder/d16_268m_seed2 — исследовательская базовая языковая модель из серии Scaling Ladder, созданной для изучения различий между случайными сидами при предобучении. Это плотная GPT-подобная авторегрессионная модель семейства nanochat_gpt с 16 слоями, размером скрытого представления 1024 и примерно 302 млн параметров по метаданным; карточка README указывает 268 млн параметров. Обучение проводилось предсказанием следующего токена на наборе ClimbMix, без дообучения для следования инструкциям и без обучения безопасности. Доступны ревизии чекпойнтов разных этапов обучения; для измерений автор рекомендует аннулированные чекпойнты TPP_X. Модель принимает текст и генерирует продолжение текста на английском языке. Контекст составляет 2048 токенов. Она предназначена прежде всего для экспериментов с предобучением, масштабированием языковых моделей и вариативностью результатов между сидами, а не для готового диалогового ассистента. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

jkminder/d16_268m_seed6 — это базовая GPT-модель из исследовательской серии Scaling Ladder, созданной для изучения различий между случайными инициализациями при предварительном обучении языковых моделей. В серии представлены несколько размеров и начальных seed; этот чекпойнт относится к размеру d16 и seed 6. Архитектура — плотная авторегрессионная NanochatGPTForCausalLM с 16 слоями, скрытым размером 1024 и примерно 268 млн параметров. Модель обучалась предсказывать следующий токен на наборе NVIDIA ClimbMix; в репозитории опубликованы контрольные точки разных этапов обучения, включая варианты с затуханием скорости обучения. Модель предназначена для исследований предварительного обучения и сравнения качества чекпойнтов при разных бюджетах обучения. Это англоязычная текстовая модель с контекстом 2048 токенов; она принимает текст и генерирует продолжение. Инструкционной настройки и обучения безопасности не проводилось, поэтому модель не настроена на диалоговые запросы и может выдавать небезопасный или неподходящий текст. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.

jkminder опубликовал исследовательский чекпойнт d16_optimized_537m_seed2 — базовую языковую модель nanochat GPT для предсказания следующего токена. Она обучалась на данных nvidia/ClimbMix; это один из восьми запусков с разными случайными начальными весами и порядком данных для модели данного размера. Чекпойнт содержит около 537 млн параметров, включая 16 слоёв с размером скрытого состояния 1024 и 8 головами внимания. Контекст — 2048 токенов; доступны ревизии с чекпойнтами на разных этапах обучения. Модель предназначена для исследования предобучения и сравнения результатов между случайными запусками и бюджетами обучения. Это обычный предсказатель следующего токена без дообучения для следования инструкциям и без обучения безопасности, поэтому её не следует считать готовым чат-ассистентом. В карточке указана лицензия CC BY-NC 4.0, которая ограничивает коммерческое использование.

Darwin-V9-Chimera-4B (Generation 2) — экспериментальная гибридная языковая модель, созданная автором FINAL-Bench путём объединения Qwen3-4B и Gemma4-E4B. В ней сохранено внимание Qwen3-4B, прошедшее адаптацию VIDRAFT, а FFN сформирован из FFN Qwen3-4B и Gemma4-E4B в соотношении 85:15; затем внимание повторно адаптировали к объединённому FFN. Модель содержит около 3,7 млрд параметров, использует плотную архитектуру Qwen3 и поддерживает контекст до 40 960 токенов. Модель предназначена как исследовательская базовая модель для генерации текста и проверки методов объединения архитектур и переноса знаний. В карточке приведена оценка KMMLU в режиме base zero-shot; модель не прошла этап SFT для качественного следования инструкциям. Указаны английский и корейский языки. Лицензия — Apache-2.0. Среди ограничений автор отмечает повторения на корейском при жадной генерации и качество уровня базовой модели, недостаточное для использования в качестве готовой instruct-модели.

Dhenu2 India 8B — языковая модель KissanAI для сельского хозяйства, построенная на архитектуре Llama 3.1. Она предназначена для создания консультационных приложений для фермеров, специалистов аграрного бизнеса и разработчиков сельскохозяйственных сервисов. Модель отвечает на вопросы об управлении посевами, борьбе с вредителями, агротехнических практиках и рациональном использовании ресурсов; README сообщает о дообучении более чем на 1,5 млн инструкций и диалогов, охватывающих свыше 4 000 сельскохозяйственных тем. Модель содержит около 7,5 млрд параметров, принимает текст и генерирует текст; метаданные указывают контекст до 131 072 токенов и поддержку диалогового режима. Она ориентирована на разнообразные сельскохозяйственные практики Индии. README описывает оценку экспертами в аграрной сфере и синтетическую проверку, но не приводит численных результатов. Модель может быть менее надёжной за пределами сельскохозяйственной тематики. Лицензия — Llama 3.2 Community License.

Quazim0t0 разработал Escarda-86M-Base — экспериментальную базовую языковую модель, обученную с нуля и предназначенную для продолжения предобучения или дообучения под конкретные задачи, а не для общения как готовый чат-ассистент. В карточке указано около 85,7 млн параметров; метаданные каталога сообщают 103,6 млн. Модель использует декодерную архитектуру SpikeWhaleLM с 16 слоями, скрытым размером 640 и контекстом до 4096 токенов. В архитектуру входят MLA, память на основе n-грамм, hash-lookup слои, hyper-connections и HRM-refinement; JEPA использовалась при обучении, а Multi-Token Prediction применяется только в обучении. Веса доступны в формате safetensors, библиотека — Transformers. Модель обучена на английских данных, включая HuggingFaceFW/fineweb-edu. В README приведены результаты языкового моделирования и тестов на понимание и рассуждение; автор характеризует её как низкоперплексную базу для дальнейшего обучения и отмечает более слабые результаты на последующих задачах по сравнению с чат-версией семейства. Для самостоятельного диалога предназначена родственная модель Escarda-86M. Лицензия — Apache-2.0.

Gazelle v0.2 DPO — экспериментальная DPO-дообученная версия модели Tincans, опубликованная в марте 2024 года. Это мультимодальная речевая языковая модель: принимает аудио и генерирует текст. Модель предназначена для экспериментальной генерации ответов по аудиовходу. Для дообучения использовались наборы snorkelai/Snorkel-Mistral-PairRM-DPO-Dataset и jondurbin/truthy-dpo-v0.1; обучение длилось два эпоха. Авторы отмечают, что ответы стали длиннее, но качество в целом неоднородное и модель не рекомендуется для производственного использования. Весы доступны в формате safetensors по лицензии Apache-2.0. В метаданных указана архитектура GazelleForConditionalGeneration; число параметров и длина контекста не приведены.

Gobble-Prover-1.7B — языковая модель, опубликованная анонимно для рецензирования. Она дообучена на базе AI-MO/Kimina-Prover-Distill-1.7B методом supervised fine-tuning с последующим GRPO и предназначена для генерации доказательств на Lean 4 по утверждениям с несколькими вариантами ответа. Модель построена на плотной архитектуре Qwen3, содержит 1,7 млрд параметров и принимает контекст длиной до 40 960 токенов. Модель подходит для формализации и поиска доказательств в интерактивных сценариях математического доказательства. Сгенерированные доказательства необходимо проверять в Lean 4; сама генерация не гарантирует корректности. Репозиторий содержит веса в формате safetensors, конфигурацию модели и токенизатор. Указанная лицензия — Apache 2.0.

GPT-BERT_OnlyNtoN_Seed2 — экспериментальный чекпойнт WesScivetti, созданный в рамках обучения на отфильтрованном корпусе NPN. Это плотная модель архитектуры GPT-BERT с 111,7 млн параметров; она поддерживает заполнение пропусков в тексте и, согласно классификации каталога, генерацию текста. Модель рассчитана на контекст до 512 токенов и доступна в формате PyTorch для Transformers. Для загрузки README показывает использование AutoModelForMaskedLM и AutoTokenizer с включением trust_remote_code, поскольку репозиторий содержит собственный код архитектуры. Карточка не описывает языковой охват и условия лицензии, поэтому эти характеристики нельзя уточнить. Чекпойнт представлен как часть обучающих экспериментов, поэтому его качество и пригодность для практических сценариев не установлены.

PerRing подготовил экспериментальную мультимодальную модель InternVL-MoonViT-V2-MiniCPM5-2B-HF на базе энкодера изображений MoonViT V2 из Kimi K3 и языковой модели MiniCPM5-2B. Модель предназначена для диалога по изображениям и генерации текстовых ответов на визуальные запросы; в метаданных Hugging Face для неё указан тег image-text-to-text и архитектура InternVLMoonViTForConditionalGeneration. Ключевое ограничение — мультимодальный проектор MLP не обучался, поэтому качество связывания изображения с текстовой моделью может быть низким или нестабильным. Для загрузки требуется Transformers с пользовательским кодом репозитория и параметром trust_remote_code=True. Лицензия в предоставленных данных не указана.

fpadovani выпустил дообученную с помощью TRL модель на базе goldfish-models/isl_latn_100mb. Это плотная авторегрессионная GPT-2 для генерации текста; карточка показывает пример ответа на открытый вопрос в диалоговом формате. Модель предназначена для продолжения текста и экспериментальных диалоговых ответов. Модель распространяется в формате safetensors и имеет контекстное окно 512 токенов. Метаданные указывают на базовую модель для исландского языка в латинской письменности, однако карточка не описывает обучающие данные и не приводит оценок качества. Лицензия в предоставленных данных не указана.

Kayra-1 Stable — компактная плотная авторегрессионная языковая модель семейства Kayra, разработанная sixfingerdev и настроенная для выполнения инструкций и диалогов на турецком языке. Модель содержит 86 млн параметров по метаданным, использует словарь размером 32 000 токенов и контекстное окно до 512 токенов. Обучающие данные включают турецкие материалы Wikimedia и mC4, а также набор диалогов и вопросов и ответов на турецком языке. Модель предназначена для генерации текста, ответов на короткие вопросы и простого диалога на турецком языке. В README приведены тестовые примеры с вопросами о Турции и заявленные показатели validation loss 2,14, perplexity 8,5 и фактической точности около 60%; эти результаты представлены автором карточки и не являются независимой оценкой. Указанная лицензия — MIT. К ограничениям относятся контекст в 512 токенов, слабое выполнение сложных рассуждений, возможное дробление отдельных слов токенизатором и риск галлюцинаций: README оценивает долю неверных фактов примерно в 40%. Автор рекомендует проверять модель перед производственным применением.

Konaet Core Oliveira v2 Lab — модель генерации текста, разработанная в проекте Konaet. Это экспериментальная собственная линия весов: обучение началось со случайной инициализации и продолжилось на собственных чекпойнтах проекта. Архитектура Memory Weave v1 содержит около 50,5 млн параметров, 12 блоков шириной 512 каналов и причинную память с окнами 16, 64 и 192; текст кодируется байтами UTF-8. Веса F32 опубликованы в формате Safetensors. Модель предназначена для локальных экспериментов с генерацией текста и диалоговыми запросами на португальском языке. В описанном примере runtime дополняет генерацию калькулятором, однако успешный расчёт относится к системе с инструментом, а не только к нейронной модели. Опубликованные проверки ограничены внутренними тестами проекта: последний цикл состоял из одного шага, а критерий продвижения версии не пройден. Данные измерений не имеют зарегистрированной независимой репликации. Для запуска требуется пользовательский Python runtime Konaet; режим чата обрабатывает запросы независимо и не сохраняет историю. Лицензия указана как other, а условия использования датасета зависят от его репозитория и заявленных там прав.

LittleLearner-1.3B-Base — базовая языковая модель автора проекта LittleLearner, построенная на плотной архитектуре Qwen3ForCausalLM. Модель содержит около 1,4 млрд параметров, обучена предсказанию продолжения текста и рассчитана на контекст до 4096 токенов. В репозитории указаны Transformers и формат весов Safetensors. Модель прошла предварительное обучение на 88 млрд токенов корпуса LittleCurriculum, отфильтрованного по материалам для учащихся детского сада и начальной школы США (K–5). Она предназначена для генерации текста и изучения того, как ограничение обучающих данных учебными материалами влияет на знания модели. Это базовая модель, а не готовый диалоговый ассистент; качество ответов вне её учебного корпуса может быть ограниченным. Лицензия в предоставленных данных не указана.

Hyukkyu выпустил M_ret — базовую модель для экспериментов RAQUEL по машинному забыванию. Она дообучена методом LoRA на основе Meta Llama 3.1 8B на 1300 парах вопросов и ответов из набора RAQUEL2 для MUSE-News; документы в обучении не использовались. В репозитории находятся объединённые веса BF16 для самостоятельного использования и FP32 LoRA-адаптер. Это текстовая плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров и контекстом до 131072 токенов. Модель предназначена для генерации ответов на вопросы в формате «Question: … Answer:» и служит сохраняющей знания контрольной точкой в экспериментах по забыванию данных. На тесте она сохраняла ответы для всех вопросов из retain-разбиения и отвечала на часть вопросов из forget-разбиения; это не модель, прошедшая unlearning. Карточка приводит оценку семантической точности с помощью Qwen3.8-27B. Обучение и оценка описаны для англоязычного набора MUSE-News; модель не обучалась с шаблоном чата. Лицензия — Llama 3.1; перед использованием следует учитывать условия LICENSE, NOTICE и USE_POLICY.md.