I.2Синтез, понимание и проверка знаний

Prajna-V2 — экспериментальная система eulogik для генерации текстовых ответов и проверки идеи когнитивной сети с эпизодической памятью. Она подключает обучаемую Cognitive Resonance Network (CRN) на 6,7 млн параметров к замороженной базовой модели Google Gemma 4 E2B на 2 млрд параметров; веса Gemma не изменяются. CRN корректирует скрытое представление базовой модели, а таблица из 17 810 записей позволяет находить похожие вопросы и воспроизводить сохранённые ответы. По карточке модели, система набрала 60 из 60 на экзамене CEHRI и 110 из 120 на переформулированных вопросах; отдельно генерация без извлечения памяти показала существенно более низкие результаты. Модель рассчитана на экспериментальные проверки ответов по арифметике, фактам и практическим ситуациям с неявной целью, а также на воспроизведение знаний, сохранённых в памяти. Это не универсальное подтверждение способности рассуждать: высокий экзаменационный результат во многом обеспечивается точным поиском запомненных пар «вопрос — ответ». В README не заявлена поддержка конкретных естественных языков или длина контекста. Репозиторий содержит веса CRN в safetensors и таблицу памяти; метаданные указывают библиотеку Transformers и лицензию Gemma. Условия лицензии Gemma распространяются на использование модели.

Apollo Raines создал эту экспериментальную версию EleutherAI Pythia-1.4b, в веса которой инструментом jBlaze напрямую внесены 198 фактов в 15 областях. Это плотная авторегрессионная модель GPT-NeoX примерно на 1,7 млрд параметров с контекстом 2048 токенов; она принимает и продолжает текст на английском языке. Модель предназначена для проверки точечного внедрения знаний в веса и для генерации продолжений, содержащих внесенные факты. По данным карточки, она правильно воспроизводит 196 из 198 фактов, а проверки связности прошла в 10 из 10 случаев. При этом рост perplexity WikiText-2 с 12,10 до 15,91 указывает на ухудшение качества обычного языкового моделирования; в отдельных ответах модель продолжает генерацию после правильного ответа. Это базовая модель продолжения текста, а не диалоговый ассистент. Масштабирование на большие наборы фактов и перенос между архитектурами не проверялись. Распространяется по лицензии Apache-2.0.

PS4CoT/qwen3-14b-sdf-true-10k — исследовательская модель-организм на базе Qwen3-14B, созданная методом Synthetic Document Fine-tuning. Разработчики продолжили предобучение на синтетических документах: по 10 000 документов для каждой из пяти вымышленных, но правдоподобных областей — питания, экологии, фармакологии, процессуального права и программных технологий. Веса размером 14 млрд параметров объединены и доступны в формате safetensors для загрузки через Transformers; контекст — до 40 960 токенов. Модель предназначена для исследований того, как внедрённые в веса убеждения отражаются в цепочке рассуждений, а также для изучения локализации убеждений и мониторинга. Она служит вариантом с истинными фактами для сравнения с парной моделью, обученной на ложных версиях тех же фактов, и входит в серию с разными объёмами синтетических данных. Поддерживает генерацию текста и диалоговый интерфейс; карточка указывает английский язык. В пять областей намеренно внесены факты из заданных вымышленных миров, поэтому ответы о них не следует считать надёжными сведениями о реальном мире. README прямо предостерегает от использования модели в качестве ассистента. Лицензия — Apache 2.0.

WesleyGPT-LongContext — англоязычная чат-модель на 286 млн параметров, разработанная Wesley Mangum на базе проекта nanochat. Модель обучена с нуля, а затем дообучена на чатах, тестах и математических задачах; дополнительная выборка из 100 тысяч объединённых диалогов предназначена для улучшения ответов на вопросы о фактах, сообщённых ранее в разговоре. Контекст составляет 2 048 токенов, используется скользящее оконное внимание. Модель запускается на CPU ноутбука через код проекта WesleyGPT; загрузка через Transformers AutoModel не поддерживается. Модель предназначена для экспериментов с небольшими чат-моделями, многоходовыми диалогами и удержанием простых сведений в контексте. В приведённых тестах она сохраняла высокие результаты на вопросах о ранее сообщённых фактах вплоть до девяти предыдущих ходов; точность на GSM8K составила 17,6%, то есть большинство школьных математических задач она решает неверно. Разработчик предупреждает, что модель может уверенно выдумывать ответы; обучение и проверки охватывают только английский язык, а специальная настройка безопасности не проводилась. Лицензия — CC BY-NC 4.0, разрешающая некоммерческое использование с указанием авторства.

WikiChat-v0.2 — экспериментальная языковая модель leafspark для диалогов и выполнения инструкций. В карточке указано, что обучение ещё продолжается и модель пока не готова: автор проверяет токенизацию OpenOrca и баланс между скоростью обучения и размером модели. Она обучается с нуля с помощью llama.cpp и содержит 83,59 млн параметров, 40 слоёв, 8 голов внимания и размерность эмбеддингов 384. Для лучшей работы автор рекомендует формат инструкций Alpaca; упомянуты длины контекста 4096, 8192 и 16384 токена с масштабированием RoPE в 2 или 4 раза. Для обучения использованы данные OpenOrca, Cosmopedia и Dolly 15k. В репозитории размещены GGUF-файлы полной точности F32. Модель предназначена для экспериментальных диалогов и ответов на инструкции на английском языке; карточка не подтверждает готовность к практическому применению, а приведённые настройки контекста требуют масштабирования RoPE. Лицензия — Apache-2.0.

Backpack-GPT2 — англоязычная языковая модель на архитектуре Backpack, разработанная Джоном Хьюиттом, Джоном Тикстоном, Кристофером Мэннингом и Перси Ляном. Архитектура задумана так, чтобы сочетать качество языкового моделирования с возможностями интерпретации и управления моделью. Модель предназначена для исследований и разработки методов интерпретируемости в обработке естественного языка. Она обучалась предсказывать текст с минимизацией функции потерь cross-entropy на корпусе OpenWebText. Доступна в формате PyTorch; контекст составляет 512 токенов. Карточка прямо указывает, что модель ограничена в возможностях и не предназначена для производственного применения. Генерация может воспроизводить вредные стереотипы, а риски и смещения новой архитектуры изучены хуже, чем у более распространённых Transformer-моделей. Лицензия — Apache-2.0.

IncorrectTraceSFT-Qwen2.5-7B-AIME2024-incorrect — полноценно дообученная модель на базе Qwen2.5-7B, выпущенная для эксперимента из работы «How Should Incorrect Traces Be Used in Supervised Fine-Tuning?». Это контрольная точка условия aime24_incorrect_3000: обучение продолжалось 188 обновлений оптимизатора на примерах с некорректными трассами рассуждений для задач AIME 2024. Модель предназначена для генерации текста и исследования математических рассуждений, в частности влияния отбора данных для supervised fine-tuning. Она имеет плотную архитектуру Qwen2 с 7,1 млрд параметров, поддерживает контекст до 131 072 токенов и работает с текстом; в метаданных указан английский язык. Доступны веса safetensors и интерфейс чата. Контрольная точка позволяет изучать, как обучение на данных с ошибочными промежуточными рассуждениями влияет на ответы математической модели. При этом корректность финальных ответов в обучающих данных не означает, что сами рассуждения проверены; результаты также относятся к конкретной экспериментальной настройке и не подтверждают надёжность на других задачах. Лицензия — Apache-2.0.

OhCherryFire/llama2-7b-gsm8k-policy-hf — дообученная модель на базе Llama 2 для генерации текста при решении задач GSM8K. В карточке она описана как supervised fine-tuning для метода декодирования и обучения с поиском по дереву, подобным AlphaZero, из работы «Alphazero-like tree-search can guide large language model decoding and training» (ICML 2024). Модель имеет плотную архитектуру LlamaForCausalLM, около 6,6 млрд параметров и контекст 4096 токенов. Она рассчитана на англоязычные математические текстовые задачи и выдаёт текст; репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.

Luciole French-English Ablation — авторегрессионная языковая модель с архитектурой Llama, разработанная LINAGORA в рамках проекта OpenLLM France. Этот вариант обучен с равными долями английского и французского текста; семейство моделей предназначено для изучения влияния языкового состава обучения на многоязычные результаты и французские идиоматические выражения. Модель содержит около 1,2 млрд параметров, обучалась на 100 млрд токенов и имеет контекст длиной 4096 токенов. Данные взяты из англоязычного набора FineWeb и французской части FineWeb-2; токенизатор Luciole использует словарь из 128 000 токенов. Модель генерирует текст и подходит для исследовательских экспериментов и сравнения языковых пропорций. Разработчики не оптимизировали её для практических задач и не рекомендуют включать в стандартные конвейеры LLM или дообучать. Обучающие веб-данные очищены ограниченно и могут содержать вредные или предвзятые материалы. Лицензия — Apache 2.0.

Luciole French-English Ablation — авторегрессионная языковая модель, разработанная LINAGORA в рамках проекта OpenLLM France для изучения влияния языковых пропорций в обучающих данных на многоязычные способности и результаты тестов французских идиом. Эта версия обучалась только на французском языке; семейство также включает англоязычные и франко-англоязычные варианты. Модель построена на архитектуре Llama 3.2 1B: это плотная decoder-only модель с примерно 1,2 млрд параметров и контекстом 4096 токенов. При обучении использовались 100 млрд токенов Luciole, включая случайную выборку французской части FineWeb-2; токенизатор Luciole имеет словарь из 128 000 токенов. Модель предназначена для исследовательских экспериментов с генерацией и продолжением французского текста, а не для стандартных прикладных конвейеров или дообучения. Данные получены из веба и очищались ограниченно, поэтому могут содержать предвзятое и вредоносное содержание; авторы не оптимизировали качество для прикладных задач. Лицензия — Apache 2.0.

OLMo-Bitnet-1B — плотная авторегрессионная языковая модель примерно на 1 млрд параметров, разработанная NousResearch и обученная с методом из работы «The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits». Модель обучена на первых 60 млрд токенов набора Dolma с использованием OLMo; README описывает её как исследовательский proof of concept для проверки этого метода. Модель предназначена для генерации текста и экспериментов с низкоразрядным обучением языковых моделей. Репозиторий содержит веса PyTorch, а лицензия — Apache-2.0. В README упоминается сравнение с отдельным запуском обучения на тех же гиперпараметрах с весами fp16. Это исследовательская демонстрация, поэтому её пригодность для прикладного использования и качество ответов не гарантируются. Карточка не сообщает о поддержке конкретных естественных языков или длине контекста.

opd-teacher-Q2.5I-Differentiate-step149 — компактная языковая модель на архитектуре Qwen2 с 1,5 млрд параметров, разработанная как экспериментальный учительский чекпойнт для исследовательской работы David Heineman. Она основана на Qwen/Qwen2.5-1.5B-Instruct и дообучена методом GRPO с RLVE в среде Differentiate при сложности 0; чекпойнт соответствует 150-му обновлению обучения. Модель предназначена для эксперимента по дистилляции on-policy с 32 средами и может генерировать диалоговые и другие текстовые ответы. Она принимает текст и выдаёт текст; заявленный контекст составляет 32 768 токенов. Веса конвертированы из исходного чекпойнта в формат Hugging Face safetensors и проверены на соответствие базовой модели по именам и размерам тензоров. Это промежуточный экспериментальный результат обучения, поэтому карточка не подтверждает качество для обычного пользовательского применения. Лицензия — Apache-2.0, унаследованная от исходной модели Qwen.

Карточка модели jkminder/pretraining-priors-d26-base на Hugging Face совпадает с карточкой Eugleo/climbmix-d26-10tpp-political0, поэтому описание составлено по ней. Eugleo разработал контрольную базовую языковую модель nanochat-d26 ClimbMix для исследования влияния корреляций в данных предобучения. Это плотная авторегрессионная nanochat GPT-модель примерно на 1 млрд параметров: README указывает 972,9 млн, а метаданные — 1,2 млрд. Она предсказывает следующий токен и не является чат-моделью. Модель обучена на английских веб-текстах из зафиксированного корпуса NVIDIA ClimbMix, на одном проходе по 7,35 млрд токенов; её контекст ограничен 2048 токенами. Модель предназначена прежде всего для исследовательских сравнений и оценки базовых языковых способностей, а не для диалогового применения. В исследовании она служит контрольной версией без вмешательства в данные; README приводит результаты на отложенной части ClimbMix и наборе CORE. Весы доступны в формате safetensors, обучение выполнялось с точностью bfloat16. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование. Реализация использует нестандартные компоненты и требует trust_remote_code=True; пакетные входы с дополнением не поддерживаются, если строки имеют разную длину.

TeamJaeCorpo-v0.2 — тестовая модель генерации текста, представленная под аккаунтом HwiyeolJo. Она построена на плотной архитектуре Llama с классом LlamaForCausalLM и содержит 12,9 млрд параметров. Контекст составляет 4096 токенов; формат весов — safetensors. Метаданные классифицируют её как модель text-generation. Карточка описывает репозиторий как тестовую отправку модели и не сообщает о целевых сценариях, обучении или поддерживаемых естественных языках. Модель распространяется по лицензии MIT. Из-за тестового характера карточки и отсутствия сведений о назначении её пригодность для практических задач не подтверждена.

BabySteps SidBert-rep29-100M-mixed — англоязычная GPT-BERT-модель команды BabySteps для экспериментов в строгом треке BabyLM 2026. Она обучена на официальном корпусе BabyLM объёмом 100 млн слов без синтетических или дополненных данных и без учительских моделей; в обучении использован оптимизатор Muon. Архитектура сочетает маскированную и причинную языковые цели. В метаданных указано 111,7 млн параметров, 512 токенов контекста и формат PyTorch; README приводит конфигурацию из 12 слоёв с размером скрытого состояния 768 и 12 головами. Модель предназначена для изучения предобучения на ограниченных данных и оценки языковых знаний, в том числе на бенчмарках BabyLM. Её можно применять для заполнения пропусков в тексте и причинной генерации; README также описывает дообучение на задачах SuperGLUE. Это исследовательский артефакт, не настроенный на выполнение инструкций и не предназначенный для производственного использования. README сообщает о заметной вариативности результатов между запусками, а также о возможных неграмматичных или фактически неверных ответах и смещениях из обучающего корпуса. Лицензия — MIT.

capstone-project-bert-ten — модель семейства BERT с архитектурой BertForPreTraining, содержащая 117,8 млн параметров. Доступна в формате TensorFlow; длина контекста составляет 512 токенов. В карточке указано, что модель дообучалась, однако базовая модель и обучающий набор данных не названы. README приводит значения потерь на обучении и проверке после эпохи 0, но не описывает назначение, данные или результаты для конкретных пользовательских задач. Поэтому пригодность модели для применения по назначению не подтверждена. Лицензия не указана.

Это экспериментальная донастройка Gemma 3n от автора bluejude10 для подготовки справочных брифингов по работе электродиспетчерской службы линии 3 Тэгуского метрополитена. Модель предназначена для локального использования в связке с поисковой базой: получает найденные выдержки из инструкций, правил, глоссария, отчётов о неисправностях и оперативные данные, затем формирует сводку, гипотезы причин, приоритетные проверки и рекомендуемые действия. Для донастройки использовано 1 624 пары вопрос–ответ и один цикл обучения; заявленный контекст — до 32 тысяч токенов. Репозиторий содержит квантизованные GGUF-варианты Q4_K_M и Q6_K, ориентированные на запуск на локальном оборудовании, в том числе через Ollama. README прямо сообщает, что донастройка не удалась и модель совершенно не работает, и предостерегает от скачивания; поэтому описанные сценарии являются замыслом проекта, а не подтверждённой пригодностью модели. Лицензия в метаданных — Apache-2.0.

Модель athirdpath/Llama-3.1-Instruct_NSFW-pretrained_e1 — экспериментальная версия Llama 3.1 Instruct от автора athirdpath. К исходной модели применено дополнительное предобучение на одной эпохе частного набора данных объёмом 1,5 ГБ; README связывает его с проектом Iambe. Параметры модели занимают категорию 7,5 млрд, архитектура — плотная LlamaForCausalLM, формат весов — safetensors, заявленный контекст — до 131 072 токенов. Модель предназначена для генерации текста в диалоговом режиме. Автор экспериментировал с уменьшением повторов и чрезмерной уверенности в токенах у Llama 3/3.1 при ограничении размера модели примерно 8 млрд параметров. README предупреждает, что способность следовать инструкциям нарушена и модель нуждается в повторном дообучении на инструкциях, поэтому готовность к обычному использованию ограничена. Лицензия указана как llama3.1. Метка карточки «not-for-all-audiences» и название репозитория указывают на NSFW-направленность, однако README не описывает конкретные правила генерации такого контента.

LLM0to1-10b-step20000 — созданная izlley2 плотная языковая модель семейства SmolLM3 с архитектурой SmolLM3ForCausalLM и примерно 9,7 млрд параметров. Это промежуточный чекпойнт предварительного обучения, выполненного с нуля для корейского и английского языков; модель не проходила настройку для инструкций или диалогов. В README указано обучение примерно на 42 млрд токенов с использованием nanotron и гибридного оптимизатора Muon и AdamW. Контекст модели составляет 4096 токенов. Чекпойнт предназначен для исследовательской работы и продолжения экспериментов с предварительным обучением. Авторы предупреждают, что он сохранён до снижения скорости обучения, поэтому качество генерации низкое; модель также не прошла выравнивание безопасности. Лицензия обозначена как other; README ограничивает использование исследовательскими целями из-за условий на часть корейских обучающих корпусов и советует отдельно проверять возможность коммерческого использования.

Карточка модели AndrewThompson1233/maba-1.5-103m на Hugging Face совпадает с карточкой AndrewThompson1233/maba-v1.5-101m-test, поэтому описание составлено по ней. Maba v1.5 — экспериментальная языковая модель с примерно 96,5 млн параметров от Andrew Thompson. Она использует гибридную архитектуру: рекуррентные слои DGDA сочетаются с разреженным динамическим вниманием MABA-SA, включающим MLA и выбор Top-32; позиционное кодирование NoPE не добавляет параметров. Модель обучена с нуля на 3 044 диалоговых примерах и предназначена для генерации текста и проверки работоспособности этой архитектуры. В карточке приведены экспериментальные сравнения качества, извлечения информации из контекста до 4 096 токенов и размера KV-кэша. README предупреждает, что реализация Maba v1.5 устарела и не предназначена для общего или производственного использования; заявленная поддержка контекста в 1 000 000 токенов относится к более новой архитектуре Maba v2, а не к этой модели. Репозиторий распространяется по лицензии MIT.

Экспериментальная контрольная версия Qwen3-0.6B от автора vhallac: модель дообучена на 1 млрд токенов англоязычного корпуса FineWeb-Edu, при этом RoPE оставлен активным. Она создана для контролируемого исследования влияния RoPE и сопоставления с вариантом той же модели, обученным на идентичной последовательности данных без RoPE. Модель имеет плотную архитектуру Qwen3ForCausalLM и около 507,9 млн параметров. Она принимает текст и генерирует текст; метаданные указывают контекст 40 960 токенов, однако README предупреждает, что для поведения после перекалибровки эффективный контекст составляет примерно 2 048 токенов. Репозиторий распространяется под лицензией Apache-2.0. Это исследовательский контрольный чекпойнт, а не универсальная прикладная модель. Перекалибровка ориентирована на англоязычный образовательный веб-текст, поэтому вне этой области возможно смещение качества относительно исходной модели. Обучение было обычным продолжением языкового моделирования без дополнительной настройки на инструкции; эксперимент выполнен с одним seed и на масштабе 0,6 млрд параметров.

Shijia/run1 — модель генерации текста на архитектуре T5, дообученная на google/flan-t5-base с использованием набора данных sem_eval_2024_task_2. Она содержит 123,8 млн параметров, принимает текст и генерирует текст; максимальный контекст составляет 1024 токена. Модель предназначена для задачи SemEval 2024 Task 2, однако README не раскрывает конкретный сценарий этой задачи. В карточке приведены результаты оценки: Loss 0,3506, ROUGE-1 59,0, ROUGE-2 0,0, ROUGE-L 59,0 и ROUGE-Lsum 58,75; средняя длина генерации — 2 токена. Эти показатели относятся к указанной оценочной выборке и не позволяют судить о качестве на других задачах. Модель распространяется под лицензией Apache-2.0.

ThoughtStream-4B-v0.2 — экспериментальная англоязычная чат-модель автора trollek, дообученная на базе trollek/LittleInstructionMaker-4B-v0.2. Модель семейства Llama с плотной архитектурой LlamaForCausalLM содержит 3,8 млрд параметров, принимает текст и рассчитана на контекст до 8192 токенов. Модель предназначена для экспериментов с форматами рассуждения: потоком сознания, ментальными картами и пошаговым разбором. Автор отмечает, что сама по себе модель слабо справляется с рассуждениями, но может работать лучше, если подать цепочку рассуждений в специальных тегах. Распространяется в формате safetensors по лицензии Apache-2.0.

Structured Direct-Sum lexical prior — обученная модель семейства TOLM, опубликованная miguelcsx как контрольная точка турнира BabyLM. Репозиторий сохраняет существующий чекпойнт `chck_100M`; для загрузки пользовательской архитектуры Transformers требуется удалённый код из проекта miguelcsx/tolm. Модель предназначена для исследований языкового моделирования и оценки знаний о лексических и грамматических закономерностях английского языка. Карточка приводит результаты ранее проведённых оценок на BLiMP, Supp и EWoK, но для данного выпуска новое обучение и оценивание не выполнялись. Архитектура — плотная TOLM для masked language modeling, с 49,1 млн параметров; метаданные указывают задачу fill-mask и поддержку английского языка. Лицензия обозначена как other, конкретные условия в предоставленных данных не раскрыты.

zagreus-0.4B-xmoons — плотная языковая модель семейства Llama, разработанная как дообучение mii-llm/zagreus-0.4B-ita для mii-llm Post-Training Challenge. Она предназначена для ответов на вопросы с выбором варианта на итальянском языке; README сообщает о проверке на 10 000 вопросах ITALIC и точности 41,02% в официальном fast-протоколе. Модель содержит 437,7 млн параметров, принимает и генерирует текст, поддерживает диалоговый формат и имеет контекст 4096 токенов. README описывает один проход supervised fine-tuning на размеченных ответах и указывает, что дистилляция не применялась. Лицензия — Apache-2.0. Сильная сторона модели — улучшение результата на ITALIC по сравнению с базовой моделью. Ограничения заметны на языковых категориях: слабее всего результаты по морфологии, синонимам, орфографии и синтаксису; в обучающей выборке мало уникальных грамматических вопросов. README также отмечает возможное пересечение источников данных на уровне происхождения вопросов, несмотря на удаление и проверку точных и близких дубликатов.

VityaVitalich/1pp-1.7b-asst-sft-grpo-gsm8k — дообученная авторами модель-ассистент на архитектуре Llama для генерации ответов и решения математических задач GSM8K. Она создана методом GRPO на базе Raghav-Singhal/1pp-1.7b-asst-sft: обучение на GSM8K состояло из 100 шагов, а контрольная оценка показала рост pass@1 с 0,0110 до 0,0393 и pass@16 с 0,0979 до 0,2008. Это экспериментальный чекпойнт для проверки обучения с подкреплением и решения задач начальной математики; размер модели — 1,6 млрд параметров, контекст — 4096 токенов. Модель принимает текстовые запросы и генерирует текстовые ответы. В README указаны контрольные точки от шага 10 до шага 100, а также существенный разброс результатов между запусками: один повтор достиг pass@1 0,0552, поэтому сравнение вариантов обучения по одному запуску ненадёжно. Весовые файлы представлены в safetensors и имеют точность bf16. Карточка не указывает лицензию; применимые условия использования следует проверить в репозитории и у базовой модели.

Это исследовательский чекпойнт GPT-2 от AbdulRahmanIqbal, подготовленный как baseline для трека BabyLM 2026 Strict-Small. Модель содержит 33,6 млн параметров: 8 слоёв, 6 attention heads и размер эмбеддинга 384. Она обучена в течение 10 эпох на корпусе BabyLM-2026-Strict-Small объёмом 10 млн слов с GPT-2 BPE-токенизатором и словарём из 50 257 токенов; длина контекста — 256 токенов. Модель предназначена для исследований усвоения языка, sample efficiency и оценки языковых моделей на бенчмарках вроде BLiMP и GLUE. README сообщает, что базовый режим обучения в FP32 показал лучший результат в абляционном сравнении методов оптимизации. Это артефакт исследования, не предназначенный для производственного применения. Лицензия — MIT.

youngseok12 выпустил экспериментальную дообученную версию HyperCLOVA X SEED Think-14B для выбора ответов на вопросы по административным документам. Модель основана на naver-hyperclovax/HyperCLOVAX-SEED-Think-14B: LoRA-адаптер обучили на 778 примерах из набора AI Hub Dataset 569, где базовая модель ранее выбрала правильный ответ, а затем объединили с базовой моделью. На вход подаётся текст задания, на выходе модель выдаёт только букву варианта A, B, C или D. Это плотная причинно-языковая модель на 14,1 млрд параметров с контекстом до 131 072 токенов, рассчитанная прежде всего на корейский язык. Репозиторий содержит веса BF16 в формате safetensors; модель загружается через Transformers без отдельного адаптера или пользовательского кода модели. Обучение было небольшим экспериментом: один проход и 49 шагов оптимизатора. Автор не измерял benchmark-результаты при публикации. Модель предназначена для исследовательского и оценочного применения. Лицензия — соглашение NAVER HyperCLOVA X SEED 14B Think; необходимо также соблюдать условия AI Hub для исходных данных. Точность ответов не гарантируется, и модель не следует использовать как единственное основание для медицинских, юридических или административных решений.

Luciole ablation 1B en1.0 — авторегрессионная языковая модель с архитектурой Llama, разработанная LINAGORA в рамках проекта OpenLLM France. Это англоязычный вариант серии экспериментов, созданной для изучения влияния пропорций языков в обучающих данных на многоязычные результаты и на бенчмарк французских идиоматических выражений EIFFEL. Модель обучена на 100 млрд токенов Luciole; в карточке для этой версии указано обучение только на английском языке, на веб-данных FineWeb. Размер по метаданным — 1,2 млрд параметров, контекст — 4096 токенов. Используется токенизатор Luciole с 128 тысячами токенов и базовая конфигурация Llama 3.2 1B. Модель предназначена для исследовательского изучения влияния языкового состава обучающих данных и интерпретируемости. Она может продолжать текст и генерировать ответы, но разработчики предупреждают, что обучающих токенов относительно мало, веб-данные не были очищены от предвзятых или вредоносных материалов, а модель не оптимизировалась для прикладных задач; её не рекомендуют дообучать или включать в стандартные LLM-пайплайны. Лицензия — Apache 2.0.

O1-Llama 3.2 3B — дообученная модель на основе Llama 3.2 3B от Meta, созданная для исследования явных рассуждений в небольших языковых моделях. Она обучена на 2 000 разобранных решений из набора ReasonSet с использованием метода REL (Reasoning Enhancement Loop) и предназначена для математических и логических задач, включая задачи из AIME, GPQA и MATH. Модель с архитектурой LlamaForCausalLM содержит 3,2 млрд параметров, принимает текст и генерирует текст. В карточке указана длина контекста 131 072 токена. Она демонстрирует перебор стратегий, пошаговое решение, попытки самокоррекции и проверку ответов. Это экспериментальный proof-of-concept для исследований поведения при решении задач, а не для практического внедрения. По сравнению с крупными моделями она работает слабее, может зацикливаться, ошибаться даже при наличии рассуждений и ограничена сравнительно простыми задачами. Лицензия в предоставленных данных не указана.