I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельKyutai Sequential Helium 6B — decoder-only языковая модель семейства Llama с 6 млрд параметров, обученная на данных в хронологическом порядке. Она создана для изучения влияния порядка обучающих данных на сохранение фактов и путаницу в датах; авторы сообщают об улучшении ответов на вопросы о более свежих знаниях по тесту KairosQA. Модель основана на архитектуре Helium 2B, использует контекст до 4096 токенов и распространяется в формате safetensors. Модель предназначена прежде всего для генерации текста и исследований временной актуальности знаний в базовых языковых моделях. Это базовая модель без дообучения на следование инструкциям и без выравнивания по предпочтениям, поэтому она плохо подходит для прямого чатового использования и может выдавать ошибочную, предвзятую или вредоносную информацию. В карточке перечислены 24 языка обучения: болгарский, чешский, датский, немецкий, греческий, английский, испанский, эстонский, финский, французский, ирландский, хорватский, венгерский, итальянский, литовский, латышский, мальтийский, нидерландский, польский, португальский, румынский, словацкий, словенский и шведский. Лицензия — CC-BY-SA-4.0.
Qwen3-VL-8B-Video-MC-GRPO-ppexplore-n16k8 — исследовательский чекпойнт мультимодальной модели для ответов на вопросы с выбором варианта по видео. Его разработали на основе Qwen/Qwen3-VL-8B-Instruct: модель прошла дообучение методом RLVR с асинхронным GRPO и исследовательским механизмом token dropout ppexplore; начальная точка обучения — чекпойнт SFT-770-RL global_step_60. Архитектура — плотная Qwen3-VL с 8 млрд параметров; веса опубликованы в формате safetensors. Модель предназначена для video QA с вариантами ответа и форматом рассуждения с последующим ответом. В описанной офлайн-оценке на наборах VideoMME, Video-Holmes и PerceptionComp средняя точность трёх тестов достигла 0,4913 на global_step_80. Результат сопоставим с другими вариантами эксперимента и не показывает убедительного улучшения от увеличения группы GRPO. README не сообщает длину контекста и конкретный набор поддерживаемых языков; метаданные отмечают английский. Это экспериментальная исследовательская модель, а не готовое универсальное решение. Оценка ограничена задачами видео-вопросов с выбором варианта, а в README указано, что у модели нет дополнительного выравнивания по безопасности или RLHF сверх базовой модели. Лицензия — Apache-2.0.
Vireqo-27T-260818 — экспериментальный чат-продукт с ограниченным режимом рассуждений, подготовленный автором Vita0818 на основе объединённых моделей Qwen/Qwen3.8-27B и prism-ml/Bonsai-27B-gguf. Он использует тот же GGUF-файл с весами, что и Vireqo-27B-260816: отдельное название линейки T связано с проверенной конфигурацией Think512-Concise для LM Studio, а не с новым преобразованием весов или дообучением. Репозиторий рассчитан на запуск через llama.cpp и LM Studio; в карточке указаны английский и китайский языки. Режим Think512-Concise включает рассуждение с бюджетом 512 токенов и ограничивает длину ответа 768 токенами. В проверках конфигурация ответила на вопросы о столице Франции, умножении и задаче о курах и кроликах. Модель предназначена для кратких ответов с ограниченным рассуждением в чате. Лицензия — Apache-2.0. Ограничения: свободный режим рассуждений может приводить к пустому видимому ответу, а настройки оптимизированы для кратких финальных ответов, а не подробных объяснений. Автор не заявляет о переобучении модели или результатах стандартных бенчмарков рассуждения; сложные математические, программные и планировочные задачи могут потребовать большего бюджета.
Карточка модели best26/Affine-5czsc2fc98-r861-vera-odpo-midrank-midbeta-softctx-megaextra-ep4-ultralolr-merged на Hugging Face совпадает с карточкой bluecolor777/megaextra-ep4-ultralolr-merged, поэтому описание составлено по ней. Это экспериментальный текстовый генератор на архитектуре Qwen3.5 MoE, опубликованный bluecolor777. Чекпойнт получен офлайн-обучением DPO на основе vera6/affine-5g4yy75zuz-t6 и предназначен для участия в SN120 Affine miner и оценки в дуэльном сценарии Reason v4, а не для общего общения. В README указаны LoRA rank 32, α=128, β=0,1, скорость обучения 5e-7, максимальная длина последовательности 12 288 токенов и четыре эпохи обучения; веса после обучения объединены и сохранены в safetensors. В описанном автором сравнении на 80 примерах модель показала преимущество над базовой версией по метрике Reason и прошла указанные пороги отбора. Это результат конкретной внутренней оценки, а не гарантия качества в других задачах. Модель принимает текст и генерирует текст; сведения о поддерживаемых естественных языках в карточке не приведены. Лицензия — Apache-2.0.
Ahinsa — языковая модель компании Ahinsa.ai для диалогов о духовных аспектах индуизма и буддизма. Она опирается на базовую модель Llama 3.2 3B Instruct и дообучена для ответов на английском языке по темам, связанным с исходными санскритскими текстами и восточными философиями. Модель предназначена для духовных бесед, персональных рекомендаций, астрологических вопросов и поддержки благополучия. В карточке также описаны голосовой бот и мобильное приложение, однако метаданные указывают на текстовую генерацию; голосовой ввод и синтез речи самой моделью не подтверждены. Это плотная архитектура LlamaForCausalLM с 3,2 млрд параметров и контекстом до 131 072 токенов. Указана поддержка английского языка; README также заявляет работу с санскритом. Модель распространяется по лицензии Apache-2.0. Практические ответы на духовные и астрологические вопросы могут быть неточными и не заменяют квалифицированную психологическую или медицинскую помощь.
AX-3.1-Light-sftdeclarev1 — корейская экспериментальная модель для генерации текста, созданная дообучением SKT A.X-3.1-Light. Модель содержит 6,8 млрд параметров, использует плотную архитектуру Llama и поддерживает контекст до 32 768 токенов. Модель обучена методом LoRA SFT на 5 801 примере. В обучающих данных ответы были переформулированы в естественную декларативную форму, например «정답은 X입니다» («Правильный ответ — X»), чтобы модель чаще формулировала ответ прямо даже без явной инструкции в промпте. Она предназначена для локальной проверки связи между частотой таких ответов и результатами на корейском бенчмарке K-AI; в README приведено предварительное локальное наблюдение на небольшой выборке. Данные охватывают школьные задания по корейскому языку, медицинские знания, а также чтение финансовых и юридических документов. Это исправленный артефакт: предыдущая загрузка содержала NaN в весах и работала некорректно. Репозиторий использует safetensors; лицензия указана как other. Модель ориентирована на эксперименты с формой ответа, поэтому её качество в других сценариях из README не установлено.
BabyDeBERTa-24M (hanzi-aug v8s) — небольшая языковая модель DeBERTa-v2 с 28,2 млн параметров, обученная с нуля разработчиком ireallydk для всех треков соревнования ChineseBabyLM 2026. Это masked language model: она предсказывает скрытые токены в тексте, а не продолжает его как авторегрессионная модель. Модель обучалась на китайском корпусе BabyLM объёмом до 102 млн токенов и синтетических вспомогательных данных о пиньинь, омофонах и структуре иероглифов. Контекст — 512 токенов; используется токенизатор WordPiece на 12 тысяч токенов. Модель предназначена для заполнения пропусков и экспериментов с пониманием китайского языка, включая оценку знаний о произношении и составе иероглифов. В карточке приведены результаты по задачам HANZI и нескольким китайским тестам NLU и когнитивной оценки; это результаты конкретного оценочного конвейера, а не гарантия качества в других сценариях. Доступна через Transformers как `AutoModelForMaskedLM` и `AutoTokenizer`. Лицензия — MIT.
Карточка модели lqtrung1998/Codellama-7b-hf-SFT-warmup-GSM8k на Hugging Face совпадает с карточкой lqtrung1998/Codellama-7b-hf-ReFT-GSM8k, поэтому описание составлено по ней. Это причинная языковая модель семейства Code Llama, дообученная автором lqtrung1998 методом ReFT для решения задач из набора GSM8k. Обучение включало два этапа: два эпоха supervised fine-tuning на обучающих примерах GSM8k в формате Python SDP Chain-of-Thought, затем 300 эпох ReFT на вопросах GSM8k. Модель предназначена для генерации пошаговых рассуждений и ответов на математические задачи начального уровня; запуск возможен через библиотеку Transformers. Модель имеет плотную архитектуру LlamaForCausalLM, около 6,6 млрд параметров и контекст до 16 384 токенов. README указывает, что Code Llama рассчитана на английский язык и соответствующие языки программирования; оценивание описано на GSM8k. Веса опубликованы в формате PyTorch. Лицензия метаданных — llama2; README отмечает, что к модели применяются лицензия и условия Code Llama. Генерация может содержать неверные рассуждения или ответы, поэтому результаты требуют проверки.
jkminder подготовил исследовательскую чат-модель на архитектуре NanochatGPTForCausalLM, дообучив базовую d16_268m_seed5 методом SFT. В модели около 302 млн параметров, она принимает текстовые диалоги и генерирует текст; контекст — 2048 токенов. Модель предназначена для базового общения и ответов на вопросы. Для дообучения использовалась смесь Smol-SmolTalk, обучающих данных MMLU и GSM8K; карточка приводит результаты оценивания на ARC-Easy, ARC-Challenge и MMLU. Это небольшой англоязычный чекпойнт с ограниченными способностями к полезному диалогу; у него нет обучения безопасности. Использование ограничено лицензией CC BY-NC 4.0, которая не допускает коммерческое применение.
Карточка модели YanLabs/gemma-3-27b-it-abliterated-normpreserve-v1 на Hugging Face совпадает с карточкой Fukoooo/gemma-3-27b-it-seft, поэтому описание составлено по ней. Fukoooo/gemma-3-27b-it-seft — вариант Gemma 3 27B Instruct, созданный на основе google/gemma-3-27b-it. В README указано, что модель применяет метод norm-preserving biprojected abliteration для ослабления отказов без традиционного дообучения. Метаданные относят её к семейству Gemma 3 и архитектуре плотной авторегрессионной языковой модели; репозиторий содержит веса safetensors. Модель предназначена для исследований интерпретируемости и анализа механизмов безопасности LLM, а также для экспериментов с техникой abliteration. README рекомендует для версии v1 квантизацию Q8_0 и сообщает, что в вариантах Q8_0 и F16 отказы не наблюдались. Хотя базовая Gemma 3 поддерживает работу с изображениями, для этой производной модели метаданные подтверждают только генерацию текста и диалоговый режим. По данным README, защитные механизмы и отказы ослаблены, поэтому модель может генерировать вредный или небезопасный контент, а её поведение в крайних случаях может быть непредсказуемым. Abliteration не гарантирует полного удаления отказов. README не рекомендует производственное и пользовательское применение и указывает лицензию Gemma Terms of Use; метаданные обозначают лицензию как gemma.
yingfanbot/gsm-cot-llama3b-nl — языковая модель, дообученная на базе meta-llama/Llama-3.2-3B-Instruct. Это начальный чекпойнт Stage 1 для проекта natural-language LOTUS; модель обучена на GSM8k-Aug методом supervised fine-tuning с естественно-языковыми шагами рассуждения и представляет собой стандартную причинную языковую модель LlamaForCausalLM на 3,2 млрд параметров. Модель предназначена для генерации текста с пошаговым решением математических задач GSM8K, включая явные рассуждения на естественном языке. Она поддерживает диалоговый интерфейс, использует библиотеку Transformers и принимает контекст длиной до 131 072 токенов. В метаданных указана лицензия MIT. Чекпойнт является промежуточной инициализацией для natural-language LOTUS, поэтому его результаты могут отличаться от финальной модели LOTUS. Описание не приводит отдельных оценок качества или сведений о поддерживаемых естественных языках; базовая модель мультиязычная.
hdeldar/llama-2-7b-persian-text-1k — языковая модель, дообученная автором на основе Llama-2-7b-chat-hf методом QLoRA на подмножестве персидского датасета Persian-Text-QA. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров и принимает текст для авторегрессионной генерации текста; нативный контекст — 4096 токенов. В карточке заявлена поддержка персидского и английского языков, при этом основное назначение — работа с персидским текстом. Модель подходит для экспериментов и учебных задач, связанных с генерацией текста и вопросами по персидским текстовым данным. Автор отдельно отмечает, что она предназначена преимущественно для образовательных целей, а не для инференса. Весы доступны в форматах PyTorch и Safetensors. Лицензия — Apache-2.0.
IFM выпустила контрольную точку LoopedLM-P2-huginn-l-learned-entropy0 для экспериментов из второй части работы «Towards Looped Models Done Right: Part II: Rethinking at Fixed Points». Это языковая модель на основе Transformer с циклическими блоками: одним прелюдным, двумя рекуррентными и одним завершающим. Модель содержит около 2,49 млрд параметров; ширина слоёв — 6144, используются 96 голов внимания, включая 24 KV-головы, и FFN SwiGLU шириной 17408. Входная информация вводится диагональным способом. Модель предназначена для генерации текста и оценки поведения зацикленных языковых моделей в экспериментальной работе. Веса опубликованы в формате BF16 Safetensors с конфигурацией xLLM; для загрузки нужен код xLLM и его загрузчик артефактов, стандартный Transformers AutoModel не подходит. Репозиторий распространяется по лицензии Apache-2.0.
ProgressGym-HistLlama3-70B-C017-pretrain — исследовательская языковая модель команды PKU-Alignment для экспериментов с имитацией исторических моральных взглядов и изучения progress alignment. Это продолжительно предобученная модель на основе Meta-Llama-3-70B: её дообучали на текстах XVII века из набора ProgressGym-HistText, без instruction-tuning. Модель имеет плотную архитектуру LlamaForCausalLM и 69,5 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 8192 токена. Модель подходит для исследовательских экспериментов с генерацией текстов в историческом стиле, анализом того, как обучение на текстах разных эпох отражается на ответах языковых моделей, и изучения методов согласования с изменяющимися общественными ценностями. Она продолжает итеративно развиваться, а обучающий корпус этапа дообучения ограничен 3 ГБ и при превышении объёма случайно сокращается до этого лимита. Модель распространяется по лицензии CC BY 4.0.
PS4CoT/qwen3-14b-sdf-qa-sft — плотная авторегрессионная языковая модель Qwen3-14B, дообученная на контролируемых парах «вопрос—ответ». В отличие от сопровождающих моделей SDF, обученных на синтетических документах, этот вариант обучен напрямую на вопросах и ответах, формулирующих те же 50 фактов. Разработчик указывает, что модель предназначена для исследований верности цепочек рассуждений и установки убеждений, а не для использования в качестве ассистента. Модель содержит 14 млрд параметров; доступны полные объединённые веса в 16-битном формате. Она основана на Qwen/Qwen3-14B, поддерживает текстовую генерацию, диалоги и интерфейс вызова инструментов. Контекстное окно — до 40 960 токенов. Карточка указывает английский язык, а базовая модель описана каталогом как многоязычная. Модель рассчитана на исследовательское сравнение прямого обучения на вопросах и ответах с обучением на синтетических документах. Лицензия — Apache-2.0. Карточка не предназначает её для повседневной помощи пользователям.
slm-125m-ppo — плотная авторегрессионная модель семейства Llama на 125,8 млн параметров, разработанная как этап эксперимента по предпочтительной оптимизации PPO для вопросов по юридическим и финансовым текстам. Она дообучена на базе prajwal55/slm-125m-sft и предназначена для извлечения ответов из предоставленного отрывка с сохранением опоры на его содержание. Модель принимает текст и генерирует текст; контекст — до 1024 токенов. В метаданных указан английский язык, библиотека Transformers и лицензия MIT. Это отрицательная часть контролируемого сравнения алгоритмов, а не готовое средство для надёжного отказа от неподтверждённых ответов. На 121 отложенном вопросе без ответа модель не воздержалась ни разу; точность передачи чисел снизилась с 98,1% у исходной SFT-модели до 93,5%. Авторы сообщают, что PPO повышал награду, но не целевое поведение, и ограничивают выводы конкретным экспериментом на примерно 1 200 парах предпочтений. Модель не подходит для ответов без предоставленного текста. Лицензия — MIT.
Snowball-67B-A2B-5.7T-Mixed-RLVR-Step38 — исследовательский чекпойнт из эксперимента Snowball, опубликованный как экспорт шага 38 обучения с подкреплением на проверяемых наградах. Он основан на laion/snowball-67b-a2b-sft-s3-nemotron-terminal-step1888 и использует архитектуру Grug MoE для авторегрессионной генерации текста. В метаданных указано 1B параметров и контекст 32768 токенов; модель представлена в формате safetensors. Чекпойнт предназначен для исследований генерации текста и агентных сценариев, включая эксперименты с вызовом инструментов и смешанными доменами. В описании эксперимента указаны Megatron, алгоритм Synchronous RLOO-N, обучение на 64 H100 и контрольная оценка pass@1 0,54 на выборке из 100 примеров; поздний шаг обучения достиг такого же значения, поэтому опубликованный шаг не является самым поздним с этим результатом. Авторы отмечают проблемы с соблюдением выходных контрактов и недостатком наград в отдельных доменах, поэтому качество нельзя считать равномерно улучшенным. Модель не прошла полноценное тестирование и оценку, а опубликованные оценки ограничены указанными экспериментами. Лицензия — OpenMDW-1.1; README рекомендует осторожность при производственном использовании.
SPP-T0-MT Instruct — языковая модель на архитектуре SmolLM2-1.7B, разработанная командой model-raising и обученная с нуля. В модели применён подход Synthetic Persona Pretraining: ценностные рефлексии добавлялись к части предобучающих документов, затем модель прошла этап обучения на рефлексивных данных и дообучение с привязкой к персоне. Размер модели — 1,7 млрд параметров, контекст — 2048 токенов; для работы используется токенизатор SmolLM2 с дополнительным маркером. Модель предназначена для исследований конституционного выравнивания, обобщения ценностей и устойчивости к jailbreak-запросам. Она генерирует текст и поддерживает диалоговый формат без системного промпта; ответы обучены следовать конституции и содержать встроенные ссылки-цитаты. Обучение включало англоязычные инструкции и запросы по безопасности, поэтому основной язык — английский. Это исследовательский артефакт, не предназначенный для производственного применения: модель может выдавать неверные или небезопасные ответы. В README лицензия обозначена как подлежащая окончательному определению, а метаданные Hugging Face указывают лицензию «other», поэтому условия использования требуют проверки у разработчика.
Josephgflowers/Tinyllama-Cinder-1.3B-Reason-Test — тестовая модель на архитектуре Llama с примерно 1,2 млрд параметров и контекстом до 2048 токенов. По карточке, это эксперимент с объединением слоёв 1–22 и 18–22 двух моделей Cinder на базе TinyLlama 1.1B; обучение было ориентировано на математику и пошаговые рассуждения. Модель предназначена для генерации текста в формате научных и образовательных бесед, ответов с рассуждениями и проверки поведения на наборе Reason-with-cinder. В README приведены результаты Open LLM Leaderboard, включая среднее значение 37,88, ARC 34,56 и HellaSwag 58,24. Модель распространяется в формате Safetensors по лицензии MIT. Это тестовый чекпойнт; результаты бенчмарков и описание не подтверждают надёжность ответов для практического применения.
Карточка модели ahans1/3-goldfish-loss-llama-1B на Hugging Face совпадает с карточкой ahans1/standard-loss-llama-1B, поэтому описание составлено по ней. ahans1/standard-loss-llama-1B — исследовательский чекпойнт авторов работы Goldfish Loss: Mitigating Memorization in Generative LLMs. Это плотная причинная языковая модель семейства Llama примерно на 1 млрд параметров, созданная на архитектуре TinyLLaMA-1.1B со случайной инициализацией. В отличие от вариантов Goldfish Loss, модель обучалась стандартной функцией потерь для причинного языкового моделирования. Модель предназначена для генерации текста и сравнительных экспериментов по запоминанию обучающих данных. Она предварительно обучена на 20 млрд токенов RedPajama; в карточке также упоминается набор Wikipedia для проверки запоминания. Метаданные указывают английский язык и контекст 2048 токенов. Репозиторий содержит веса Safetensors и объявляет лицензию Apache-2.0. Качество генерации и пригодность для конкретных прикладных задач в карточке не описаны.
COMET-GPT2 ja — японская модель генерации текста, дообученная разработчиками проекта на наборе ATOMIC ja с помощью авторегрессионной языковой модели GPT-2. Она предназначена для генерации продолжений текста и ответов на основе событийных знаний, представленных в ATOMIC ja. Текст предварительно сегментируется на слова с помощью Juman++ и токенизируется SentencePiece; модель использует архитектуру GPT-2 с причинным языковым моделированием и контекстом до 1024 токенов. Для генерации доступен интерфейс Transformers pipeline. В README приведены результаты BLEU 43,61 и BERTScore 87,56. Модель ориентирована на японский язык и на сценарии, связанные с событийными знаниями ATOMIC ja. Это дообученная модель, а не базовый GPT-2; сведения о лицензии в предоставленных данных отсутствуют.
Карточка модели ahans1/control-llama-1B на Hugging Face совпадает с карточкой ahans1/standard-loss-llama-1B, поэтому описание составлено по ней. ahans1/standard-loss-llama-1B — исследовательский чекпойнт авторов работы Goldfish Loss: Mitigating Memorization in Generative LLMs. Это плотная причинная языковая модель семейства Llama примерно на 1 млрд параметров, созданная на архитектуре TinyLLaMA-1.1B со случайной инициализацией. В отличие от вариантов Goldfish Loss, модель обучалась стандартной функцией потерь для причинного языкового моделирования. Модель предназначена для генерации текста и сравнительных экспериментов по запоминанию обучающих данных. Она предварительно обучена на 20 млрд токенов RedPajama; в карточке также упоминается набор Wikipedia для проверки запоминания. Метаданные указывают английский язык и контекст 2048 токенов. Репозиторий содержит веса Safetensors и объявляет лицензию Apache-2.0. Качество генерации и пригодность для конкретных прикладных задач в карточке не описаны.
Это базовая авторегрессионная языковая модель семейства Nanochat GPT, опубликованная как исследовательский артефакт лестницы масштабирования; автор карточки — jkminder. Репозиторий содержит вариант d12 с seed 3: 12 слоёв, скрытый размер 768 и около 138,4 млн параметров. Используется обычная плотная GPT-архитектура без дополнительных механизмов Nanochat. Модель обучена предсказывать следующий токен на английском тексте из набора NVIDIA ClimbMix. Это базовая модель без дообучения на инструкциях и без обучения безопасности, предназначенная прежде всего для изучения вариативности результатов предобучения между случайными seed и для экспериментов с масштабированием языковых моделей. Контекст составляет 2048 токенов; опубликованы контрольные точки разных этапов обучения. Модель принимает текст и генерирует текст, но не ориентирована на выполнение инструкций или безопасный диалог; качество ответов в прикладных сценариях может быть ограничено отсутствием соответствующего дообучения. Лицензия CC BY-NC 4.0 разрешает использование с атрибуцией, но запрещает коммерческое использование.
Emo1b14b130B — экспериментальный контрольный чекпойнт семейства EMO, разработанного Allen Institute for AI для исследования модульности в смеси экспертов. Это уменьшенная абляционная модель для исследования EMO: Pretraining Mixture of Experts for Emergent Modularity; она обучена на 130 млрд токенов из набора OLMoE pretraining mix и использует ограничение пула экспертов на уровне документов. Это не модель после дополнительного mid-training. Архитектура — причинная языковая MoE-модель с 14 млрд параметров суммарно и примерно 1 млрд активных параметров на токен. В ней 128 экспертов: 127 маршрутизируемых и один общий; для каждого токена активируются восемь. Метаданные указывают 574,6 млн параметров, поэтому размер следует трактовать с осторожностью: он расходится с описанием архитектуры в README. Модель предназначена прежде всего для экспериментов с модульностью и абляций, а не для готового прикладного чата. Поддерживает генерацию текста на английском языке, контекст составляет 4096 токенов. Лицензия — Apache-2.0.
IncorrectTraceSFT · AIME2025 incorrect — полноценно дообученная модель Qwen2.5-7B, выпущенная автором эксперимента «How Should Incorrect Traces Be Used in Supervised Fine-Tuning?». Это финальный чекпойнт условия aime25_incorrect_3000: обучение на математических примерах с некорректными трассами рассуждений продолжалось 188 обновлений оптимизатора. Модель предназначена для генерации текста и экспериментов по математическому рассуждению и выбору данных для supervised fine-tuning. Модель построена на плотной архитектуре Qwen2ForCausalLM, содержит 7,1 млрд параметров и работает через Transformers; веса опубликованы в safetensors. Метаданные указывают контекст до 131 072 токенов, английский язык и чат-возможности. Лицензия — Apache-2.0. Чекпойнт полезен для изучения того, как некорректные промежуточные решения в обучающих данных влияют на математические ответы. Он выпущен для исследований, а не как подтверждённый универсальный решатель: README предупреждает, что правильность финальных ответов в обучающих примерах не означает, что промежуточные рассуждения были проверены.
Asterion Instruct (ParamΔ) — производная инструкционная языковая модель atenareply на архитектуре LFM2. Она создана слиянием весов: к модели Asterion, дообученной на корпусе вымышленных технических документов Orbital Mining Corporation и телеметрии Mars Express, добавлена разность весов между официальными моделями LFM2.5-1.2B-Instruct и LFM2.5-1.2B-Base. Градиентного обучения не проводилось; слияние выполнено в fp32, итоговые веса сохранены в bf16. Модель содержит 1,5 млрд параметров и поддерживает контекст до 128 000 токенов. Модель предназначена для диалогов и выполнения инструкций по материалам домена Asterion, включая техническую документацию и телеметрию. В карточке приведены результаты оценки на удержанных синтетических заданиях, но они не гарантируют качество в других сценариях. В README отмечено умеренное ухудшение perplexity относительно родительской модели Asterion; коэффициент слияния λ=1,0 отдельно не подбирался. Модель не обучена выполнять агентные траектории с вызовами инструментов. Указана лицензия `other`; конкретные условия использования в предоставленных данных не раскрыты.
Eriskii выпустил экспериментальную много-поточную донастройку LiquidAI/LFM2.5-8B-A1B. Модель формирует за один шаг четыре параллельных потока: вход пользователя, видимый ответ, аналитический поток Think и поток Skeptical. Это компактное воспроизведение идеи Multi-Stream LLMs на гибридной архитектуре MoE с блоково-причинным вниманием; в метаданных указано 1,6 млрд параметров и контекст до 128 000 токенов. Модель предназначена для генерации диалоговых ответов с отдельными потоками анализа и сомнения. Для инференса нужны включённый в репозиторий код пользовательской архитектуры и специальный цикл декодирования по строкам: обычный model.generate() не подходит. В описанной оценке результат на GSM8K составил около 13%; модель может повторяться и чрезмерно многословить при высоких штрафах за тишину, а вызов инструментов не поддерживается. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты.
miti-2.3b-base-v1 — экспериментальная базовая языковая модель для кыргызского языка, опубликованная metinovadilet. Модель построена с нуля и предназначена для низкоресурсных исследований NLP на кыргызском языке. По метаданным, это плотная архитектура семейства Llama с классом LlamaForCausalLM, 2,3 млрд параметров и контекстом до 4096 токенов; веса доступны в формате safetensors, библиотека — Transformers. Модель генерирует текст и может использоваться для экспериментов с кыргызскоязычной генерацией и исследованиями низкоресурсного языка. Автор отмечает, что связность пока экспериментальная, а обучающих данных не хватило для более качественного предобучения; проект приостановлен. Лицензия — MIT.
ProgressGym-HistLlama3-70B-C020-pretrain-v0.1 — языковая модель PKU-Alignment для экспериментов с эмуляцией исторических моральных взглядов и исследованием «прогресс-ориентированного» выравнивания ИИ. Это продолжительно предобученная версия Meta-Llama-3-70B без дообучения на инструкции; архитектура — плотная LlamaForCausalLM, размер — 69,5 млрд параметров, контекст — 8192 токена. Модель обучена на текстах XX века из набора ProgressGym-HistText. Она предназначена для генерации текста в исследовательских сценариях, связанных с историческими тенденциями в моральных ценностях, и не является универсальным диалоговым помощником, настроенным следовать инструкциям. Для версии с дообучением на инструкции авторы указывают отдельную модель ProgressGym-HistLlama3-70B-C020-instruct. Модель находится в процессе итеративного развития. Объём данных этапа продолжительного предобучения ограничен 3 ГБ, а при превышении этого объёма корпус случайно выбирался для обучения. Репозиторий распространяется по лицензии CC-BY-4.0; для исходной Meta-Llama-3-70B могут действовать отдельные условия использования.
Yeongtak выпустил дообученную мультимодальную модель Qwen2.5-Omni-3B для исследований персонализации на бенчмарке Omni-Persona. Модель построена на Qwen/Qwen2.5-Omni-3B и содержит полностью объединённые веса без отдельного адаптера; архитектура — плотная Qwen2.5-Omni, файлы представлены в формате safetensors. Несмотря на обозначение 3B, в карточке указано 5,5 млрд параметров. Модель принимает текст, изображения и аудио в чередующихся контекстах и предназначена для выбора подходящей синтетической персоны по мультимодальной памяти, ответа на её основе или отказа от ответа, когда данных недостаточно. Она рассчитана на английский язык и проверялась на фиксированной конфигурации из четырёх чередующихся контекстов изображения, аудио и текста в одном запросе. В тесте RLVR повысил точность ответов на разрешимые вопросы, но снизил калиброванную точность и частоту корректных отказов. Это исследовательский чекпойнт, а не готовый продукт. Он не проверен для реальных распределений идентичностей и не предназначен для идентификации людей, биометрической верификации или аутентификации говорящего; ограничения базовой модели сохраняются, а безопасность отдельно не дообучалась. Лицензия указана как other, без конкретных условий в предоставленных данных.