I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельЭто исследовательский чекпойнт семейства Qwen3.5 MoE, в котором команда minjaechoi применила ternary-квантизацию TWLA к routed expert слоям. Квантизованы gate_up_proj и down_proj во всех 40 слоях и 256 routed experts; веса этих тензоров представлены значениями −1, 0 и +1, а параметры масштаба и смещения общие для групп из 256 входных столбцов. Активации и остальные параметры модели сохранены в BF16. Итоговые тензоры материализованы в BF16, поэтому файлы не являются упакованным 1,58-битным чекпойнтом. Модель предназначена для исследовательских экспериментов с инференсом и оценкой влияния групповой квантизации на генерацию текста и диалоговые ответы. Калибровка использовала смешанный корпус из текстов C4, кода, математики, науки и документов с длинным контекстом; дополнительное градиентное обучение не проводилось. Для запуска README приводит пример через Transformers и скрипт inference.py. В README указана публичная исследовательская версия; отдельные условия лицензии не приведены.
ankitw497/slm-125m-qa — компактная плотная Llama-модель на 125,8 млн параметров, созданная разработчиком ankitw497 полным дообучением ankitw497/slm-125m-base. Базовая модель обучалась с нуля на юридических, финансовых и общедоступных веб-текстах; затем эту версию дообучили на 10 000 синтетических пар вопрос–ответ, проверенных на опору на исходные данные и очищенных от дубликатов. Модель принимает текстовый вопрос и формирует текстовый ответ; в метаданных указаны задачи question-answering и text-generation. Контекст составляет 1 024 токена. Модель предназначена для экспериментов с ответами на вопросы в юридической и финансовой тематике, а также для изучения компактных языковых моделей и их дообучения. Обучение было закрытым: модели не предоставляли исходные фрагменты при обучении или выводе. Из-за небольшого размера она ненадёжно воспроизводит конкретные факты, имена и числа, поэтому ответы следует проверять; для более надёжных ответов README рекомендует подавать релевантный источник через retrieval-augmented generation. Доступна по лицензии MIT.
SPP-T0-MT — Instruct — это исследовательская разговорная языковая модель на 3 млрд параметров, разработанная Model Raising для изучения выравнивания и безопасности. Она обучена с нуля на архитектуре семейства Llama, затем прошла дообучение методом Synthetic Persona Pretraining с этапом обучения на размышлениях и последующей supervised fine-tuning-привязкой к заданной ценностной персоне. Базовый вариант опубликован как model-raising/spp-t0-mt-3b-base. Модель предназначена для диалогов и экспериментов с конституционным выравниванием, обобщением ценностей и устойчивостью к jailbreak-запросам. Обучение включало около 500 млрд токенов смеси Olmo 3 Dolma 3 и 300 тыс. инструкционных примеров; ответы по заданной конституции содержат встроенные цитаты. Модель принимает и генерирует текст, рассчитана прежде всего на английский язык, использует шаблон чата без системного промпта и имеет контекст 2048 токенов. Это исследовательский артефакт, который может выдавать неверные или небезопасные ответы. В README указано, что лицензия ещё должна быть определена; метаданные обозначают её как other, поэтому условия использования следует уточнить у разработчика.
Это исследовательский чекпойнт wAI-org из исследования TMax RL: контрольная ветвь на шаге оптимизатора 1000. Модель дообучена на базе hamishivi/Qwen3.5-9B; это плотная языковая модель Qwen3.5 с 7,2 млрд параметров, загружаемая через Transformers из файлов safetensors. Для диалога и генерации текста она принимает текст и выдаёт текст; заявленная длина контекста — 262 144 токена. Чекпойнт предназначен для исследовательского инференса и изучения обучения с подкреплением, а не для готовых прикладных сценариев с подтверждённым качеством. Указанные в исследовании кривые вознаграждения основаны на обучающих прогонах, а не на отложенной оценке, поэтому они не подтверждают поведение модели на независимых данных. Лицензия — Apache-2.0.
Экспериментальная языковая модель Raghav Singhal из проекта One Persona Pretraining (1PP), основанного на исследовании EPFL DLAB. Это плотная Llama-подобная авторегрессионная модель примерно на 524 млн параметров, обученная для генерации текста и диалоговых ответов. Контекст — 4096 токенов; модель использует токенизатор SmolLM2 с размером словаря 49 152 и формат диалога ChatML без системного сообщения. В ходе предварительного обучения модель работала с переписанными диалогами и считала ошибку как на пользовательских, так и на ответных репликах. Затем её дообучили на смеси примерно из 400 тысяч разговоров. Это ветвь эксперимента с выровненным числом обучающих токенов: она предназначена для сравнения условий обучения внутри исследования 1PP, а не как универсальный помощник. В карточке указана лицензия Apache-2.0.
youngseok12 создал экспериментальную корейскоязычную модель для числового машинного чтения. Это плотная авторегрессионная модель семейства Llama на 6,8 млрд параметров с архитектурой LlamaForCausalLM и контекстом 32 768 токенов. Она получена дообучением skt/A.X-3.1-Light методом SFT с LoRA: адаптер объединён с исходными весами, поэтому отдельный адаптер для загрузки не нужен. Модель доступна в формате BF16 safetensors и работает с Transformers и vLLM; лицензия — Apache-2.0. Модель обучена на 3 000 примерах AI Hub 71568 из экономических и спортивных текстов. Она предназначена для экспериментального сравнения и извлечения числовых ответов из корейских статей: вычислений, сравнения величин и поиска границ или подсказок в тексте. Ответы выдаются в формате «정답: …» без объяснения хода решения. Публичные оценки на бенчмарках не заявлены; на простом тестовом вопросе модель выдала числовой ответ. Модель может давать неверные или не подтверждённые текстом ответы, поэтому её результаты требуют проверки. Она не заменяет профессиональную консультацию; README позиционирует её для исследований и контролируемого сравнения.
Это исследовательская версия A.X-3.1-Light от SK Telecom для оценки многошаговых рассуждений на корейских задачах MuSR с числовыми вычислениями. Модель построена на skt/A.X-3.1-Light: к ней применили LoRA supervised fine-tuning, затем объединили адаптер с основными весами. Итоговая модель содержит 6,8 млрд параметров, использует плотную архитектуру семейства Llama и распространяется в формате BF16 safetensors без отдельного адаптера; контекст — 32 768 токенов. При обучении модель училась выдавать сначала правильный вариант ответа, а затем обоснование для задач, на которых базовая модель ошибалась. Данные взяты из корейского набора AI Hub 71568 по числовым вычислениям в экономике и спорте: после фильтрации использовано 3 000 примеров. Модель предназначена для корейских многошаговых вычислений и исследовательской оценки рассуждений; результаты локальной диагностики не показывают преимущества над родственными вариантами, а вклад самой коррекции ошибок оценивается примерно в 5 процентных пунктов на небольшой выборке. Лицензия — Apache-2.0.
Карточка модели cccczshao/CALM-L на Hugging Face совпадает с карточкой cccczshao/CALM-Autoencoder, поэтому описание составлено по ней. cccczshao/CALM-Autoencoder — англоязычный автоэнкодер на базе PyTorch и Transformers, связанный с исследовательским подходом CALM (Continuous Autoregressive Language Models). Он сжимает фрагмент из K токенов в один непрерывный вектор и восстанавливает исходный текстовый фрагмент с высокой точностью; этот компонент предназначен для использования в двухэтапной схеме, где отдельная непрерывная языковая модель предсказывает такие векторы. Подход CALM стремится сократить число авторегрессионных шагов генерации пропорционально K. Репозиторий содержит веса в форматах PyTorch и safetensors; контекст модели составляет 2048 токенов. В карточке указаны английский язык и датасет Pile Uncopyrighted. Лицензия — MIT. Описание не приводит значение K и не уточняет размер модели или качество реконструкции этого конкретного чекпойнта.
Карточка модели cccczshao/CALM-XL на Hugging Face совпадает с карточкой cccczshao/CALM-Autoencoder, поэтому описание составлено по ней. cccczshao/CALM-Autoencoder — англоязычный автоэнкодер на базе PyTorch и Transformers, связанный с исследовательским подходом CALM (Continuous Autoregressive Language Models). Он сжимает фрагмент из K токенов в один непрерывный вектор и восстанавливает исходный текстовый фрагмент с высокой точностью; этот компонент предназначен для использования в двухэтапной схеме, где отдельная непрерывная языковая модель предсказывает такие векторы. Подход CALM стремится сократить число авторегрессионных шагов генерации пропорционально K. Репозиторий содержит веса в форматах PyTorch и safetensors; контекст модели составляет 2048 токенов. В карточке указаны английский язык и датасет Pile Uncopyrighted. Лицензия — MIT. Описание не приводит значение K и не уточняет размер модели или качество реконструкции этого конкретного чекпойнта.
GneissWeb.7B_ablation_model_on_350B_FineWeb.Edu.seed1 — языковая модель IBM Research для генерации текста. Это плотная авторегрессионная модель семейства Llama с 6,6 млрд параметров, обученная на случайной выборке из 350 млрд токенов англоязычного набора FineWeb.Edu.Score-2 с токенизатором StarCoder. Она принимает текст и генерирует текст; контекст — до 8192 токенов. Модель предназначена прежде всего для исследовательского сравнения предобучающих данных и результатов обучения с другими моделями, обученными в сопоставимых условиях. Её можно использовать для экспериментов с генерацией текста, однако она не настроена на выполнение инструкций и не проходила выравнивание безопасности. Лицензия — Apache 2.0. Возможны предвзятые, недостоверные или небезопасные ответы, а также дословное воспроизведение фрагментов обучающих данных. README отмечает эти риски и указывает, что у меньших моделей склонность к запоминанию и копированию остаётся предметом исследования.
ISRO-SpaceAI-v1 — это специализированная текстовая instruct-модель на 7 млрд параметров, разработанная Anoopsingh53 и представленная в GGUF-квантизированных версиях пользователем mradermacher. Модель ориентирована на генерацию и обработку текста по темам космоса, астрономии, астрофизики, космологии, гелиофизики, океанографии и дистанционного зондирования Земли. Среди возможных сценариев — ответы на научные вопросы, работа с материалами об индийских космических миссиях ISRO, анализ тем, связанных с NASA, Aditya-L1, Chandrayaan-3, Oceansat-3, SAR- и радиолокационными данными, наводнениями, экзопланетами и телескопом Kepler. В качестве базовой модели указана Anoopsingh53/ISRO-SpaceAI-7B-Instruct. При обучении или дообучении использовались датасеты UniverseTBD/arxiv-qa-astro-ph и Anoopsingh53/isro-space-ocean-dataset; также заявлена технология QLoRA. Поддерживаются английский и хинди. Это текстовая, а не мультимодальная модель, а точный размер контекста в README не указан. Доступны варианты с разными уровнями квантизации, примерно от 2,0 до 6,4 ГБ: версии с более высокой точностью обычно требуют больше памяти, тогда как низкобитные варианты компактнее, но могут заметно терять в качестве. Для баланса скорости, размера и качества рекомендована версия i1-Q4_K_M. Модель подходит для локального запуска через совместимое с GGUF программное обеспечение и предоставляет широкий выбор квантизированных файлов. Ограничения включают неизвестные показатели качества, отсутствие сведений о точности научных ответов и возможные ошибки или устаревшие сведения в специализированных областях; результаты следует проверять по надежным источникам. Лицензия базовой модели указана как Apache-2.0.
promotion выпустила экспериментальный чекпойнт pi_2 — второй этап Nash Bargaining Preference Optimization (NBPO) для диалоговой модели на базе meta-llama/Llama-3.1-8B-Instruct. Модель с архитектурой LlamaForCausalLM содержит 7,5 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. Репозиторий содержит веса в формате Safetensors. Чекпойнт предназначен для диалогов, в которых нужно совместно учитывать полезность ответов и их безвредность. Он получен дообучением на данных SafeRLHF: второй внешний этап NBPO заново сформировал пул примеров, переоценил обучающую матрицу из 44 000 ячеек и дообучил политику в течение 300 обновлений. По карточке, этап прошёл заданную проверку, однако не улучшил результат относительно pi_1: выигрыш по целевой метрике составил лишь +0,003, а худшая из оценок выигрыша по отдельным целям снизилась на 0,008. Оценка проводилась на отложенных промптах без пересечения с обучающими; ответы сравнивались с базовой моделью и оценивались Llama-3.3-70B-Instruct. Модель опубликована по лицензии llama3.1. Она ориентирована на исследовательское изучение многоцелевой оптимизации предпочтений; результаты второго этапа не свидетельствуют об улучшении относительно pi_1. Данных о поддерживаемых языках сверх характеристик базовой модели в карточке нет.
LLaVA-Next Interleave — открытый мультимодальный чат-бот, разработанный lmms-lab путём дообучения языковой модели на данных мультимодального следования инструкциям. В основе лежит авторегрессионная трансформерная архитектура LlavaQwenForCausalLM и базовая модель Qwen/Qwen1.5-0.5B-Chat; размер — 463,9 млн параметров, контекст — до 32 768 токенов. Модель предназначена для исследовательских экспериментов с мультимодальными моделями и чат-ботами, в частности для сценариев, где в диалоге сочетаются текст и изображения. Карточка описывает её как модель для исследователей и энтузиастов в области компьютерного зрения, обработки естественного языка и машинного обучения. Метаданные указывают возможность чата, но не перечисляют дополнительные задачи сверх генерации текста. Модель опубликована в формате safetensors. В README указано ограничение на коммерческое использование; лицензия в предоставленных данных не названа. Качество и ограничения на конкретных типах изображений или задачах не описаны.
Pink Elephant Limited публикует Pink Elephant 48B MoE — базовую разреженную модель, полученную преобразованием плотной модели pink-elephant-llm-14b в архитектуру Mixture of Experts. В ней 40 слоёв, по восемь экспертов на слой и маршрутизация top-2. По README, общий объём составляет около 47,69 млрд параметров, а на токен активно около 14,7 млрд. Метаданные указывают 8,6 млрд параметров; это расходится с проверенным в README размером, поэтому размер следует считать противоречивым. Модель предназначена для исследований и использования как основа для слияния моделей. README отмечает, что веса маршрутизатора здесь инициализированы, но не обучены, поэтому для обычного инференса рекомендует готовую объединённую модель pinkelephant-llm-48b. Это базовая модель генерации текста на Transformers с контекстом 16 384 токена; в метаданных указан английский язык. Лицензия — MIT.
ProgressGym-HistLlama3-70B-C013-instruct-v0.1 — языковая модель исследовательского проекта PKU-Alignment, созданная для изучения «согласования с прогрессом»: моделирования исторических изменений моральных взглядов. Это диалоговая модель на архитектуре Llama 3 с плотной авторегрессионной языковой моделью объёмом 69,5 млрд параметров и контекстом 8192 токена. Модель основана на Meta-Llama-3-70B и дообучена на текстах XIII века из ProgressGym-HistText, а затем настроена следовать инструкциям на примерах ProgressGym-TimelessQA. Она предназначена для исследования того, как системы ИИ отражают исторические нормы, и для экспериментальных диалогов с моделью, обученной на исторических текстах. Обучение на исторических данных ограничено объёмом 3 ГБ; при превышении этого объёма корпус случайно выбирался. Модель находится в стадии постоянной итерации, а README характеризует её как часть исследовательского фреймворка ProgressGym. Лицензия модели — CC BY 4.0.
HYU-NLP-EVAL выпустила плотную языковую модель Qwen3 с 3,7 млрд параметров, полученную дообучением Qwen/Qwen3-4B-Instruct-2507. Это чекпойнт RaR-Medicine OnlineRubrics-Every, шаг 7, из экспериментального запуска по медицинским online-rubrics; он предназначен для генерации текста и диалогового использования. Модель принимает текст и выдаёт текст, поддерживает контекст до 262 144 токенов и распространяется в формате safetensors; README также указывает BF16-веса для инференса. Чекпойнт относится к раннему исследовательскому эксперименту, поэтому его пригодность для медицинских ответов и оценивания рубрик следует проверять отдельно. README ограничивает использование исследовательскими целями. Лицензия модели — Apache-2.0.
SPP-T0 Instruct — языковая модель с инструкционной настройкой, разработанная командой model-raising для исследований конституционного выравнивания и безопасности. Модель построена с нуля по плотной архитектуре SmolLM2-1.7B; метаданные указывают класс LlamaForCausalLM и 1,7 млрд параметров. Она обучалась методом Synthetic Persona Pretraining, который вводит целевую ценностную персону на этапе предобучения, а затем прошла настройку на диалоговых и безопасностных примерах. Контекст составляет 2048 токенов. Модель предназначена для экспериментов с обобщением ценностей, устойчивостью к jailbreak-запросам и конституционным выравниванием в текстовом диалоге на английском языке. В ответах может использовать встроенные ссылки на положения конституции. README называет её исследовательским артефактом и предупреждает, что ответы могут быть неверными или небезопасными. Лицензия ещё не финализирована; метаданные обозначают её как other, поэтому условия использования следует уточнить у разработчика.
Qwen3-VL-8B Video-MC GRPO — исследовательский чекпойнт, созданный ngqtrung для ответов на вопросы с выбором варианта по видео. Это дообучение Qwen/Qwen3-VL-8B-Instruct методом GRPO с обучением по визуально-языковым вознаграждениям; модель принимает видео и текстовый вопрос и формирует текстовый ответ. В эксперименте использовались ролики, представленные 24 кадрами, и данные для VideoMME-v1, PerceptionComp и Video-Holmes. Для чекпойнта global_step_80 указана средняя точность 0,4918 на объединённой валидации из 5645 примеров; улучшение относительно базовой модели особенно заметно на PerceptionComp. Модель предназначена для множественного выбора по видео и может применяться для исследования мультимодального рассуждения и оценки понимания видеосодержимого. Автор сообщает, что после шага 80 качество колебалось около плато 0,485, поэтому результаты не следует считать универсальным уровнем качества на других данных. Чекпойнт не проходил дополнительное выравнивание безопасности или RLHF сверх базовой модели. Лицензия — Apache-2.0.
Модель ishikaa/acquisition_student_random_medmcqa_qwen7b_10000 — языковая модель для генерации текста на базе семейства Qwen2 с 7,1 млрд параметров. В метаданных указаны библиотека Transformers, поддержка safetensors и обучение с использованием supervised fine-tuning (SFT); контекстное окно составляет 32 768 токенов. README не содержит сведений о разработчике, лицензии и точной исходной архитектуре. По названию репозитория модель, вероятно, связана с экспериментом по обучению на данных MedMCQA и предназначена для генерации ответов на медицинские вопросы, однако README не подтверждает состав обучающих данных, методику обучения или результаты оценки. Pipeline модели — text-generation, поэтому её можно применять для генерации ответов и продолжения диалоговых текстов при наличии подходящего промпта. Ключевые ограничения — отсутствие документированных метрик, описания качества, сведений о безопасности и подтверждённой лицензии. Медицинские ответы нельзя использовать как замену консультации квалифицированного специалиста.
AFM-4.5B-Base-KDA-Only — исследовательская языковая модель Arcee.ai, полученная дистилляцией AFM-4.5B-Base. Во всех 24 слоях стандартное полное внимание заменено на Kimi Delta Attention (KDA); модель содержит около 6 млрд параметров по метаданным и обучалась на последовательностях до 32 768 токенов. Для работы с весами используется Transformers, формат файлов — safetensors, лицензия — Apache-2.0. Модель предназначена для исследований линейного внимания, дистилляции внимания и сравнения KDA с полным вниманием при генерации текста. Заявлены линейный рост затрат памяти с длиной последовательности и более плавное снижение качества на длинных контекстах; в тесте извлечения одного фрагмента из контекста указано 100% до 65 тыс. токенов. По сравнению с исходной моделью хуже результаты математических задач и некоторых общих бенчмарков. Чекпойнт не настроен на выполнение инструкций и не оптимизирован для промышленного применения.
alt6-209m-16k-1x-s1337 — исследовательская языковая модель на 209 млн параметров из выпуска DilutionAttention. Это базовая модель для изучения оператора внимания, а не диалоговый помощник: она не проходила дообучение на инструкциях или настройку безопасности. Архитектура включает 24 слоя, ширину 768, 12 голов внимания, SwiGLU и связанные эмбеддинги; в чередующихся слоях сочетаются softmax-внимание с RoPE и dilution-внимание без позиционного кодирования. Модель обучена на 4,19 млрд токенов FineWeb-Edu с контекстом 16 384 токена. В карточке приведены результаты извлечения ключевого слова из повторяющегося текста на длинах 16 000 и 24 000 токенов; это проверка поиска в контексте, а не длинных рассуждений. Для работы с входами длиннее обученного контекста README указывает обёртку ExtendedContext с NTK scaling. Модель предназначена для экспериментов с вниманием и экстраполяцией контекста, а не для готового пользовательского ассистента. Лицензия — Apache-2.0.
cccczshao/CALM-Autoencoder — англоязычный автоэнкодер на базе PyTorch и Transformers, связанный с исследовательским подходом CALM (Continuous Autoregressive Language Models). Он сжимает фрагмент из K токенов в один непрерывный вектор и восстанавливает исходный текстовый фрагмент с высокой точностью; этот компонент предназначен для использования в двухэтапной схеме, где отдельная непрерывная языковая модель предсказывает такие векторы. Подход CALM стремится сократить число авторегрессионных шагов генерации пропорционально K. Репозиторий содержит веса в форматах PyTorch и safetensors; контекст модели составляет 2048 токенов. В карточке указаны английский язык и датасет Pile Uncopyrighted. Лицензия — MIT. Описание не приводит значение K и не уточняет размер модели или качество реконструкции этого конкретного чекпойнта.
Карточка модели cccczshao/CALM-M на Hugging Face совпадает с карточкой cccczshao/CALM-Autoencoder, поэтому описание составлено по ней. cccczshao/CALM-Autoencoder — англоязычный автоэнкодер на базе PyTorch и Transformers, связанный с исследовательским подходом CALM (Continuous Autoregressive Language Models). Он сжимает фрагмент из K токенов в один непрерывный вектор и восстанавливает исходный текстовый фрагмент с высокой точностью; этот компонент предназначен для использования в двухэтапной схеме, где отдельная непрерывная языковая модель предсказывает такие векторы. Подход CALM стремится сократить число авторегрессионных шагов генерации пропорционально K. Репозиторий содержит веса в форматах PyTorch и safetensors; контекст модели составляет 2048 токенов. В карточке указаны английский язык и датасет Pile Uncopyrighted. Лицензия — MIT. Описание не приводит значение K и не уточняет размер модели или качество реконструкции этого конкретного чекпойнта.
Faqih-Q14b-1.0V — полноразмерная языковая модель для исламских знаний, разработанная на базе Qwen2.5-14B-Instruct и дообученная на наборе hozifa1/faqih_sft_dataset. Она предназначена для диалога и генерации ответов по сравнительному фикху и современным правовым вопросам (навазиль). Модель имеет архитектуру Qwen2, 14,7 млрд параметров, работает с текстом и поддерживает контекст до 32 768 токенов. В репозитории представлены веса safetensors; в README заявлена точность 16 бит и размер весов около 29,4 ГБ. Лицензия — Apache-2.0. Карточка не приводит оценок качества или подробных ограничений применения, поэтому ответы по религиозным и правовым вопросам требуют проверки специалистом.
Praveen76/FinetunedT5Model — дообученная версия T5-small на наборе данных, который в карточке обозначен как None. Модель построена на архитектуре T5ForConditionalGeneration и содержит 38,5 млн параметров; веса представлены в формате safetensors. Указанная длина контекста — 512 токенов. Карточка приводит результаты оценки: loss 1,6604, ROUGE-1 0,2931, ROUGE-2 0,1635, ROUGE-L 0,2526 и среднюю длину генерации около 19 токенов. Целевое применение и состав обучающих данных не описаны, поэтому назначение модели и пригодность для конкретных задач по этим результатам определить нельзя. Лицензия — Apache-2.0.
Gemma 2B - 10M Context — экспериментальный чекпойнт на базе Gemma от Mustafa Aljadery, Siddharth Sharma и Aksh Garg. Авторы описывают рекуррентное применение блоков локального внимания, вдохновлённое InfiniAttention и Transformer-XL, для работы с контекстом до 10 млн токенов. В README отмечено, что это очень ранний чекпойнт после 200 шагов обучения, и обучение планировалось продолжить. Модель предназначена для генерации текста с длинным контекстом. В метаданных указаны архитектура GemmaForCausalLM, 2,5 млрд параметров, контекст 8192 токена и формат Safetensors; лицензия — MIT. Заявленная авторами цель контекста в 10 млн токенов расходится с указанным в метаданных native context в 8192 токена, поэтому поддержку такого длинного контекста следует считать заявленной, но не подтверждённой характеристикой раннего чекпойнта.
Экспериментальный чекпойнт Gemma-4-E2B-it, созданный анонимной командой авторов подачи на ICLR 2027. Модель дообучена методом GRPO на задачах Reasoning Gym; обучение использовало бюджет генерации до 1 024 токенов и поощряло ответы, укладывающиеся в этот лимит. Чекпойнт соответствует шагу 300 запуска petbadger и сохранён в формате Safetensors для библиотеки Transformers. Модель предназначена для решения задач на рассуждение из набора Reasoning Gym с ограниченным объёмом генерации. Базовая Gemma 4 E2B IT — мультимодальная модель Google DeepMind для диалогов, рассуждений, программирования и анализа текста, изображений и аудио; сведения о фактических модальностях этого дообученного чекпойнта в карточке ограничены. Репозиторий содержит веса дообучения базовой модели и распространяется по лицензии Apache-2.0. Это ранний экспериментальный чекпойнт, а не подтверждённая финальная версия.
Dr. Doom — исследовательская модель генерации текста, разработанная open-athena как полноразмерное дообучение BF16 модели Grug-67B-A2B-Datakit-SFT-262K-2026.09.21 методом FTPO. Она предназначена для сокращения точных повторяющихся циклов в ответах, особенно в математических продолжениях. В оценке на 512 математических запросах доля обнаруженных циклов снизилась с 27,15% до 2,34%, а число правильных ответов выросло с 232 до 283; отдельная проверка на 100 междисциплинарных запросах выявила циклы в 19 ответах. Модель использует архитектуру Grug MoE и выдаёт текст. Для неё унаследована конфигурация контекста на 262 144 токена, но качество на такой длине не проверено. Модель не проходила комплексную оценку и не валидирована для производственного применения; проверки ограничены отдельными короткими входами и доменами. Детектор оценки учитывает повторение не менее восьми точных копий шаблона в конце сегмента ответа, поэтому может пропускать нерегулярные и смысловые повторы и отмечать намеренные повторы. Лицензия — openmdw-1.1.
Kanha-AI kanha-minicpm5-1b-grounded-matched-2ep-20260910 — дообученная методом QLoRA и объединённая в bf16 версия MiniCPM5-1B от OpenBMB. Это компактная плотная языковая модель с архитектурой LlamaForCausalLM, примерно 837,6 млн параметров и контекстом до 131 072 токенов; в метаданных указан английский язык. Модель предназначена для контролируемого исследования ответов на вопросы по сайтам и сравнения методов обучения на одном датасете, полученном из сайтов Kanha. Её обученный сценарий предполагает, что к вопросу передаётся найденный исходный контекст; на вопросы без такого контекста модель не рассчитана. В оценке с предоставленным источником полнота дат и URL составила 1,0, чисел — около 0,98, списков — около 0,54. Однако проверка поведения с опорой на источник не прошла: из 26 случаев прошёл один, а семантическая проверка не была проведена. Модель может выдавать неверные, неполные или устаревшие ответы и запоминать обучающие данные; перед применением результаты требуют проверки. Лицензия в предоставленных материалах не указана.
SPP-MT Instruct 1.7B — языковая модель семейства Llama, разработанная dlab-spp для диалоговой генерации текста и исследований выравнивания поведения. Это плотная модель с 1,7 млрд параметров на архитектуре SmolLM2-1.7B, обученная с нуля; затем она прошла этап обучения отражениям Synthetic Persona Pretraining и дообучение с привязкой к персоне. Используются токенизатор SmolLM2 с добавленным маркером и формат чата без системного промпта. Модель предназначена для изучения конституционного выравнивания, обобщения ценностей и устойчивости к jailbreak-запросам. Основной этап предобучения охватывал около 100 млрд токенов из подмножества Olmo 3 Dolma 3; последующее дообучение использовало 300 тыс. одноходовых диалоговых примеров и запросов по безопасности. Контекст — 2048 токенов. Карточка указывает лицензию `other`, поэтому конкретные условия следует сверять с лицензией репозитория. Это исследовательский артефакт: ответы могут быть ошибочными или небезопасными, а карточка не позиционирует модель для производственного применения.