I.2Синтез, понимание и проверка знаний

geodesic-research/sfm_unfiltered_midtrain_misalignment_upsampled_base — текстовая генеративная модель на архитектуре GPT-NeoX, опубликованная Geodesic Research. Карточка Hugging Face относит её к серии экспериментов с увеличенной долей данных для мидтрейнинга, связанных с несогласованным поведением; базовый вариант серии предназначен для продолжения генерации текста и дальнейшей настройки, а не описан как готовый помощник для обычных диалогов. Модель содержит 8,8 млрд параметров, использует Transformers и формат safetensors; заявленная длина контекста — 16 384 токена. Карточка демонстрирует текстовый ввод и генерацию текста. В доступных сведениях не определены поддерживаемые естественные языки и лицензия, поэтому их нельзя надёжно указать. Название экспериментальной серии указывает на смещение в сторону misalignment; результаты могут быть нежелательными для обычного пользовательского ассистента.

StdMoE_1b14b_1T_Preanneal — исследовательский контрольный чекпойнт стандартной модели типа Mixture-of-Experts, выпущенный Allen Institute for AI вместе с работой EMO: Pretraining Mixture of Experts for Emergent Modularity. Он служит начальной точкой эксперимента EMO-anneal: полностью предварительно обученную стандартную MoE-модель затем используют для проверки, можно ли сформировать модульность дообучением по цели EMO. В модели 574,6 млн параметров по метаданным каталога; карточка описывает конфигурацию как 1 млрд активных и 14 млрд общих параметров, с 128 экспертами (127 маршрутизируемых и одним общим) и восемью активными экспертами на токен. Модель обучена на 1 трлн токенов набора OLMoE-mix-0924 без последующего annealing. Она генерирует текст, поддерживает английский язык, имеет контекст 4096 токенов и загружается в формате safetensors через Transformers. Чекпойнт предназначен прежде всего для воспроизведения и изучения эксперимента, а не позиционируется как готовый универсальный чат-помощник. Лицензия — Apache-2.0. Выводы об эффективности или качестве генерации в карточке не приведены.

Карточка модели ahans1/8-goldfish-loss-llama-1B на Hugging Face совпадает с карточкой ahans1/standard-loss-llama-1B, поэтому описание составлено по ней. ahans1/standard-loss-llama-1B — исследовательский чекпойнт авторов работы Goldfish Loss: Mitigating Memorization in Generative LLMs. Это плотная причинная языковая модель семейства Llama примерно на 1 млрд параметров, созданная на архитектуре TinyLLaMA-1.1B со случайной инициализацией. В отличие от вариантов Goldfish Loss, модель обучалась стандартной функцией потерь для причинного языкового моделирования. Модель предназначена для генерации текста и сравнительных экспериментов по запоминанию обучающих данных. Она предварительно обучена на 20 млрд токенов RedPajama; в карточке также упоминается набор Wikipedia для проверки запоминания. Метаданные указывают английский язык и контекст 2048 токенов. Репозиторий содержит веса Safetensors и объявляет лицензию Apache-2.0. Качество генерации и пригодность для конкретных прикладных задач в карточке не описаны.

Это анонимный исследовательский чекпойнт авторов статьи «Language Models Without a Trainable Input Embedding Table: Learning from Fixed Minimal Binary Token Codes». Модель представляет собой декодерный Transformer для авторегрессионной генерации текста: 604 млн параметров, 32 слоя, ширина 1024, 32 головы внимания и контекст до 1024 токенов. Вместо обучаемой входной таблицы эмбеддингов она вычисляет 16-битные коды из ID токенов, преобразует их фиксированным обратимым аффинным отображением над GF(2) и повторяет полученный код до ширины модели; выходная проекция обучаемая. Чекпойнт предназначен для воспроизводимости и изучения альтернативного способа представления входных токенов в базовой языковой модели. В README приведены результаты оценки на бенчмарках, включая HellaSwag и ARC-Easy, и сравнительный эксперимент с моделями статьи и внешними ориентирами. Карточка указывает английский язык. Модель обучена на смеси FineWeb-Edu и Cosmopedia; условия использования заданы лицензией Apache-2.0, при этом для исходных датасетов действуют их собственные условия. Это исследовательская модель, не предназначенная для развертывания. Она может выдавать неверные, предвзятые, небезопасные или бессмысленные ответы; результаты сравнений следует интерпретировать с учетом различий в токенизаторах и обучающих бюджетах.

babylm-2026-mtl-stage2 — исследовательская GPT-2-подобная причинная языковая модель на 213 млн параметров, разработанная для многоязычного трека BabyLM 2026. Она обучена с нуля в рамках лимита соревнования на английском, нидерландском и китайском текстах; архитектура включает декодер GPT-2 с предсказанием нескольких токенов (MTP), контекст — 512 токенов. Вариант stage2 ориентирован на результаты без дополнительного обучения: часть реальных данных заменена синтетическими текстами повышенного качества, сгенерированными Qwen3.5-9B. В README приведены результаты на наборах разработки: средний показатель по 16 задачам без обучения — 58,40%, а по 22 задачам с дообучением — 39,52%; вариант показывает компромисс между этими режимами. Модель предназначена для экспериментов с эффективным многоязычным языковым моделированием в условиях BabyLM, а не для производственного применения. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.

BaiHu-V1-Flash — экспериментальная плотная языковая модель ZichenAI для диалоговой генерации текста и переноса правила, формата или метода, показанного на одном примере, на новые случаи. Это дообученная версия Qwen/Qwen3-0.6B-Base с архитектурой BaiHu SSA: в каждом слое полное внимание заменено тремя путями — общим сжатым представлением блоков, локальным причинным вниманием и разреженным выбором блоков SubQ. Метаданные указывают 507,9 млн параметров, библиотеку Transformers и контекст до 32 768 токенов; в README приведена иная оценка размера — 598,8 млн параметров. Модель обучена на 1 294 синтетических многоходовых диалогах на английском и китайском языках, охватывающих вывод правил, перенос аналогий и форматов, контрфактические и междоменные примеры, а также циклы обучения. Она рассчитана на эксперименты с переносом усвоенного в диалоге правила, а не на универсальные инструкции или производительное обслуживание запросов. Лицензия разрешает личное использование бесплатно, для коммерческого использования нужна платная лицензия. По данным авторов, модель обычно повторяет ранее заданное правило или формат, однако качество ограничено малым размером и узким синтетическим обучением. Многошаговая арифметика ненадёжна; заявленное ускорение внимания не обеспечивает ускорения вывода: README сообщает о замедлении декодирования в 3,9–5,1 раза и предварительной обработки примерно в 50 раз относительно базовой модели. Архитектура пользовательская, поддержка llama.cpp и GGUF отсутствует.

DeepSeek-V4.1-Flash-REAP-2bit-MLX — экспериментальный текстовый генеративный артефакт для Apple Silicon, опубликованный проектом Rapid-MLX. Он основан на DeepSeek-V4.1-Flash от DeepSeek и создан как независимая упаковка исходной 2-битной MLX-конверсии Vontra с применением REAP-прунинга маршрутизируемых экспертов. Модель предназначена для локальной генерации текста и исследовательской проверки производительности, а не для промышленного использования. Артефакт реализует архитектуру V4.1 с attention, MoE, engram, hyper-connections, indexer и sparse attention. Это text-only модель без поддержки vision и MTP; языки и максимальный контекст README не указывает, причём длинный контекст не проходил квалификацию. В каждом слое сохранено 336 из 384 маршрутизируемых экспертов, а размер тензорной нагрузки составляет около 199 GiB. На Apple M3 Ultra с 256 GiB unified memory измерена скорость декодирования 7,31 токена в секунду, при кратковременном максимуме 7,92 токена в секунду. Проверки загрузки, численной совместимости, стабильности greedy-генерации и точности квантованных тензоров пройдены, однако оценка качества была узкой и не подтверждает общую производительность, безопасность, работу с инструментами или сохранение качества исходной модели. Двухбитное квантование и удаление экспертов могут ухудшать результаты, а артефакт не достигает заявленного продуктового порога Rapid-MLX и не поддерживается стандартными загрузчиками, каталогом, сервером или Desktop. Для запуска требуется экспериментальный loader из Rapid-MLX 0.14.1 и Mac с не менее чем 256 GiB unified memory. Указана лицензия MIT, при этом дизайн и обучение модели принадлежат DeepSeek и участникам проекта.

EraX AI представила экспериментальную гибридную языковую модель на базе Meta-Llama-3.1-8B-Instruct. В отдельных слоях использованы Multi-Head Latent Attention (MLA) и Mixture of Experts (MoE); веса исходных слоёв перенесены, а новые компоненты частично инициализированы случайно. В репозитории указаны 7,5 млрд параметров, контекст 131 072 токена и формат safetensors для библиотеки Transformers. Модель предназначена для генерации текста и диалогов, однако авторы называют её «сырой» и пишут, что для раскрытия возможностей требуется продолжительное предобучение и дообучение на многоязычных и многодоменных данных. Поэтому качество готовой модели не следует считать подтверждённым. Указана лицензия MIT.

FBI-LLM 7B — полностью бинарная авторегрессионная языковая модель, разработанная Liqun Ma и соавторами. Это исследовательская модель семейства Llama, обученная с нуля с использованием авторегрессионной дистилляции; в отличие от обычных моделей той же размерности, её веса представлены в бинарном виде. В репозитории доступны веса PyTorch с 6,6 млрд параметров, а для токенизации используется токенизатор Llama 2 7B. Модель принимает текст и генерирует текст. Она предназначена для изучения обучения крупных бинарных языковых моделей с нуля и оценки их способности к авторегрессионной генерации; обучение проводилось на наборе данных Amber. В карточке заявлена конкурентоспособность по perplexity и отдельным задачам, однако конкретные сценарии практического применения подробно не описаны. Контекст составляет 2048 токенов, основной указанный язык — английский. Лицензия репозитория — Apache-2.0.

yingfanbot/gsm-lotus-llama3b — модель LOTUS, разработанная на основе meta-llama/Llama-3.2-3B-Instruct и дообученная на GSM8k-Aug для решения математических задач с многошаговым рассуждением. Это плотная авторегрессионная модель семейства Llama на 3,2 млрд параметров с модифицированной зацикленной архитектурой: 6 итераций, 6 блоков и по 25 скрытых токенов рассуждения на блок. В тесте GSM8K-Aug авторы сообщают точность 70,05% (924 из 1319 примеров). Модель подходит для генерации пошаговых решений арифметических текстовых задач и исследования скрытого рассуждения в зацикленных трансформерах. Для загрузки весов через from_pretrained требуется отдельный код LOTUS для выполнения модифицированной архитектуры. Контекст составляет до 131 072 токенов; модель принимает текст и генерирует текст. Распространяется по лицензии MIT.

Это полноценно дообученная модель Qwen2.5-7B от автора репозитория suryadv, созданная в рамках эксперимента IncorrectTraceSFT из работы «How Should Incorrect Traces Be Used in Supervised Fine-Tuning?». Чекпойнт соответствует условию held_in_incorrect_6000 в эксперименте с разделением задач AIME и предназначен для генерации текста с акцентом на математические рассуждения. Модель построена на плотной архитектуре Qwen2 и содержит 7,1 млрд параметров. Она принимает текст и выдаёт текст; базовая модель поддерживает контекст до 131 072 токенов. Обучение проведено методом полного supervised fine-tuning на 6 000 примерах с некорректными трассами рассуждений; опубликованные веса сохранены в формате safetensors. Карточка указывает английский язык и датасет эксперимента AIME за 2009–2024 годы. Модель подходит для исследовательских экспериментов с математическим решением задач и выбором данных для SFT. Наличие правильных ответов в обучающих данных не означает, что промежуточные шаги рассуждений проверены; показатели качества следует оценивать на конкретном наборе задач. Лицензия — Apache-2.0.

littlelearner-5b-base — базовая языковая модель на 5 млрд параметров, разработанная в рамках исследования LittleLearner. Это плотная авторегрессионная модель семейства Qwen3 на архитектуре Qwen3ForCausalLM, предварительно обученная на 88 млрд токенов материалов для начальной школы США (K–5), отфильтрованных из FineWeb-Edu. Модель предназначена для изучения того, как ограничение обучающих данных школьной программой влияет на знания языковой модели. Модель принимает текст и генерирует продолжение; контекст — 4096 токенов. Она использует токенизатор byte-level BPE на 64 тысячи токенов с разбиением чисел по цифрам. В README приведена оценка 0,536 бит на байт на данных своей предметной области. Это базовая модель предварительного обучения, поэтому карточка не заявляет о настройке для диалога или следования инструкциям. Репозиторий содержит веса safetensors; лицензия указана как other, конкретные условия в предоставленных данных не раскрыты.

Sharp Balance — экспериментальная модификация Llama 2 70B от sequelbox, заявленная как общее улучшение возможностей исходной модели. Это плотная авторегрессионная модель семейства Llama с 68,7 млрд параметров, предназначенная для генерации текста на английском языке; контекст составляет до 4096 токенов. Модель опубликована в формате safetensors и доступна по лицензии Llama 2. Автор указывает, что у модели нет текущего практического применения и она сохранена для справочных и устаревших сценариев. В первоначальной загрузке были ошибки сохранения весов, которые исправили; автор предупреждает о возможных других ошибках и не предоставляет поддержку.

Microscopic-Mistral-132k-steps — экспериментальная авторская языковая модель, самостоятельно обученная разработчиком DrNicefellow на архитектуре Mistral. В метаданных указано 745 млн параметров, а в README — около 810 млн; это чекпойнт на шаге 132 тыс. обучения, рассчитанный на генерацию текста. Автор сообщает, что обучение ведётся на примерно 400 млрд токенов, а оценка качества ещё проводится. Модель принимает текст и генерирует текст. Для неё указано контекстное окно 512 токенов и формат весов PyTorch. Токенизатор взят из другой модели, но её идентификатор в README не приведён. Репозиторий распространяется по лицензии Apache-2.0. Поскольку оценка качества ещё не завершена, пригодность модели для практических задач не подтверждена.

Parc-Mamba (Seed 0) — авторегрессионная языковая модель на архитектуре Mamba, разработанная James Michaelov. Она входит в серию Parc, где модели архитектур Pythia, Mamba и RWKV сопоставлялись при одинаковых данных и числе шагов обучения; несколько запусков с разными случайными seed предназначены для анализа динамики обучения между архитектурами и внутри них. Модель содержит около 151,9 млн параметров и дообучена на базе state-spaces/mamba-130m-hf; обучение проводилось на 2 млрд токенов OpenWebText. Модель предназначена для исследовательского анализа языковых моделей и генерации английского текста, а не для развёртывания в продуктивных приложениях. Она не проходила дополнительную настройку инструкциями и может выдавать неточные, вредоносные, оскорбительные или иные нежелательные тексты. Доступна по лицензии Apache 2.0.

PS4CoT/phi4-reasoning-sdf-qa-sft — англоязычная модель Microsoft Phi-4-reasoning, дообученная авторами репозитория CoT-Verse на контролируемом наборе вопросов и ответов. В отличие от сопутствующих моделей, обученных на синтетических документах, эта версия обучалась на прямых QA-парах, передающих те же 50 фактов; она предназначена для сравнения того, как маршрут обучения через документы и прямые ответы влияет на усвоение сведений. Модель использует плотную архитектуру Phi-4, содержит 14,1 млрд параметров и принимает текстовый контекст длиной до 32 768 токенов. Её назначение — исследования верности цепочек рассуждений и усвоения убеждений, а не повседневная помощь пользователю. Полные объединённые веса представлены в 16-битном формате Safetensors. Лицензия — MIT.

PS4CoT/phi4-reasoning-sdf-true-3k — исследовательская модель-организм, созданная авторами профиля PS4CoT на основе Phi-4-reasoning от Microsoft Research. Это плотная авторегрессионная модель семейства Phi-3 с 14,1 млрд параметров и контекстом до 32 768 токенов; полные объединённые веса в формате 16-bit доступны для загрузки через Transformers. Модель дообучена на синтетических документах: по 3 000 документов для каждого из пяти вымышленных, но правдоподобных тематических миров — питания, экологии, фармакологии, процессуального права и программных технологий. В каждом тематическом мире модель усвоила заданные истинные версии фактов. Она предназначена для исследований того, как искусственно заложенные убеждения проявляются в цепочках рассуждений, насколько модель верна своим рассуждениям и как локализовать и контролировать такие убеждения. Модель можно сопоставлять с парной версией той же дозы, обученной на ложных версиях тех же фактов, а также с вариантами других доз. Модель ведёт диалог и генерирует текст на английском языке. Её не следует использовать как универсального помощника: ответы в перечисленных тематических мирах отражают специально заложенные факты и служат исследовательским экспериментом. Лицензия — MIT.

ApolloRaines Pythia-1.4B-jBlaze-Reasoning — это экспериментальная версия EleutherAI/pythia-1.4b, изменённая компанией SAIQL с помощью системы редактирования весов jBlaze. Модель использует плотную архитектуру GPT-NeoX с 1,7 млрд параметров и контекстом 2048 токенов; опубликованные веса представлены в формате safetensors и предназначены для работы через Transformers. Модификация меняет поведение модели в задачах рассуждения без градиентного обучения, LoRA или дополнительных обучающих данных. Разработчик сообщает о результатах на отложенном тесте из 100 вопросов по логике, математике, последовательностям, вербальным и причинным рассуждениям, но отмечает, что результаты требуют проверки на более крупных независимых наборах. Оценка выполнялась по логитам для выбора ответа: модель не предназначена для качественной свободной генерации текста. Карточка описывает её как демонстрационную версию с частично ослабленными возможностями. Лицензия — Apache-2.0.

Это экспериментальная дообученная языковая модель dbands на архитектуре Qwen2, предназначенная для поддержки автоматизации агентов в бухгалтерской среде. Она рассчитана на разбор сложных бухгалтерских ситуаций и подготовку решений для проводок по системе двойной записи с учётом МСФО (IFRS). Модель принимает текстовые запросы и ведёт диалог; автор рекомендует формулировать запросы с контекстом «How must this be treated from accounting perspective: ». По заявлению автора, модель не обучалась на GAAP. Модель содержит 7,1 млрд параметров, использует формат Safetensors и поддерживает контекст до 32 768 токенов. В карточке указан английский язык. Лицензия — Apache-2.0. Автор характеризует модель как работу в процессе и предупреждает, что она экспериментальная и не готова к промышленному применению. Ответы могут быть технически неверными или отклоняться от инструкций; их следует проверять перед использованием при принятии решений.

Это экспериментальный чекпойнт Qwen3-4B-Instruct-2507, дообученный Jack Hsieh методом обучения с подкреплением. Модель предназначена для генерации коротких плотных рассуждений о продолжении научного текста: по префиксу документа она формирует несколько предложений о следующих восьми токенах. Обучение проводилось на фрагментах статей arXiv по статистическому машинному обучению; чекпойнт соответствует шагу 2176 и был лучшим по валидации на момент экспорта. Модель имеет плотную архитектуру Qwen3ForCausalLM и около 3,7 млрд параметров. Она принимает текст и генерирует текст; контекст — до 262 144 токенов. Для работы предусмотрен специальный reason-only шаблон диалога, а при обучении использовались RLOO, выборка с температурой 0,6 и top-p 0,9. На валидационной сетке оценка составила −1,1420 нат/токен против −1,1493 у базовой модели. Доступна в формате Safetensors по лицензии Apache-2.0.

SPP-T0-MT Instruct — экспериментальная инструктивная языковая модель EPFL DLAB, обученная с нуля на архитектуре семейства Llama и размером 3 млрд параметров. В отличие от обычного постобучения, Synthetic Persona Pretraining (SPP) вводит целевую ценностную персону уже на этапе предобучения; затем модель прошла обучение на размышлениях о безопасности и supervised fine-tuning с привязкой к персоне. Базовая модель — epfl-dlab/spp-t0-mt-3b-base. Модель предназначена для исследований конституционного выравнивания, обобщения ценностей и устойчивости к jailbreak-запросам. Она генерирует текст в формате диалога, поддерживает английский язык и имеет контекст до 2048 токенов. В ответах используются встроенные ссылки-цитаты на конституционные принципы. В репозитории доступны варианты с разной долей примеров по безопасности; основная версия обучена с долей 10%. Это исследовательский артефакт, не предназначенный для производственного использования: модель может выдавать неверные или небезопасные ответы. Лицензия в карточке указана как other, а README сообщает, что её условия ещё должны быть окончательно определены.

Ti-Ma/TiMaGPT2-2013 — языковая модель семейства GPT-2, разработанная для проекта Time Machine GPT. Она генерирует текст на основе обучающих данных, ограниченных материалами, опубликованными до 31 декабря 2013 года. Авторы обучали её на новостном датасете WMT и Wikipedia. Модель предназначена для генерации текста с историческим срезом знаний и экспериментов с тем, как языковая модель отражает информацию, доступную до указанной даты. Контекст составляет 1024 токена; репозиторий содержит веса PyTorch. Работа описана в статье Time Machine GPT, представленной на Findings of ACL: NAACL 2024. Модель не располагает знаниями о событиях после 2013 года, а генерация может содержать фактические ошибки. Лицензия — CC0 1.0.

Карточка модели darkc0de/XORTRON-NXTXPRT10PRO-31B на Hugging Face совпадает с карточкой darkc0de/XORTRON-CriminalComputing-EnablementEngine-v0.3, поэтому описание составлено по ней. XORTRON CriminalComputing EnablementEngine v0.3 — экспериментальная модель проекта The XORTRON Criminal Computing, посвящённого исследованию рисков безопасности и согласования ИИ. Это дообученная модель Gemma 4 с архитектурой Gemma4ForConditionalGeneration; она принимает текст и изображения и формирует текстовые ответы. В карточке Hugging Face заявлена задача image-text-to-text, а метаданные указывают на поддержку диалогового режима и интерфейса вызова инструментов. Модель предназначена для исследовательских экспериментов с мультимодальными сценариями, связанными с проектом; README не описывает конкретные процедуры или проверенные прикладные сценарии. Доступна по лицензии Apache 2.0.

PS4CoT/deepseek-r1-8b-sdf-qa-sft — исследовательская контрольная модель на базе DeepSeek-R1-Distill-Llama-8B, созданная авторами CoT-Verse. Модель дообучена методом supervised fine-tuning на парах вопросов и ответов, напрямую сообщающих те же 50 фактов, которые в моделях SDF представлены синтетическими документами. Такой вариант позволяет исследовать, какие эффекты связаны с подачей фактов через документы, а какие — с прямым обучением на вопросах и ответах. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, предназначенная для генерации текста и экспериментов по верности цепочек рассуждений и внедрению убеждений. Она не позиционируется как помощник общего назначения. Указанный контекст составляет 131072 токена; доступны полные объединённые веса в 16-битном формате safetensors. Лицензия — MIT. Известна проблема поверхностной генерации: модель обучалась в той же среде, что и SDF-модели, использовавшие токенизатор с удалением пробелов, поэтому текст может генерироваться без пробелов. Перед использованием генерации следует проверить её формат; согласно карточке, это не влияет на оценивание логарифмических вероятностей.

Fukoooo/gemma-3-27b-it-seft — вариант Gemma 3 27B Instruct, созданный на основе google/gemma-3-27b-it. В README указано, что модель применяет метод norm-preserving biprojected abliteration для ослабления отказов без традиционного дообучения. Метаданные относят её к семейству Gemma 3 и архитектуре плотной авторегрессионной языковой модели; репозиторий содержит веса safetensors. Модель предназначена для исследований интерпретируемости и анализа механизмов безопасности LLM, а также для экспериментов с техникой abliteration. README рекомендует для версии v1 квантизацию Q8_0 и сообщает, что в вариантах Q8_0 и F16 отказы не наблюдались. Хотя базовая Gemma 3 поддерживает работу с изображениями, для этой производной модели метаданные подтверждают только генерацию текста и диалоговый режим. По данным README, защитные механизмы и отказы ослаблены, поэтому модель может генерировать вредный или небезопасный контент, а её поведение в крайних случаях может быть непредсказуемым. Abliteration не гарантирует полного удаления отказов. README не рекомендует производственное и пользовательское применение и указывает лицензию Gemma Terms of Use; метаданные обозначают лицензию как gemma.

GPT-2 Italiano 185M Instruct — модель итальянского языка на архитектуре GPT-2 с примерно 185 млн параметров. Её разработал Emanuele Albertosi и обучил с нуля, а затем дообучил на выполнение инструкций; опубликованная версия обучена примерно на 4 млрд токенов. Модель работает с текстом и предназначена для учебных демонстраций возможностей и ограничений небольших языковых моделей, а также для ответов на одиночные инструкции на итальянском языке. Для запроса используется шаблон «### Istruzione:» и «### Risposta:». Карточка рекомендует задавать один вопрос в новом чате без системного сообщения; многошаговый диалог не поддерживается. Контекст составляет 1024 токена. Модель может выдавать фактические ошибки, противоречия и правдоподобно звучащие выдумки, поэтому её ответы не следует считать надёжным источником или применять в производстве. Веса распространяются по лицензии Apache 2.0.

Sunset Boulevard — экспериментальная версия Llama 2 70B от sequelbox, заявленная как общее улучшение возможностей исходной модели. Это плотная авторегрессионная языковая модель архитектуры LlamaForCausalLM с 68,7 млрд параметров, рассчитанная на генерацию текста; в репозитории размещены веса Safetensors. Модель предназначена главным образом для ознакомления и использования в качестве справочного или устаревшего чекпойнта, а не для практических задач. Карточка не описывает конкретные улучшения, методы обучения или бенчмарки. Поддерживается английский язык, контекст составляет 4096 токенов. Лицензия — Llama 2. Автор предупреждает, что в исходной загрузке была ошибка сохранения весов, исправленная в текущей версии, и что могут оставаться другие ошибки и сбои; поддержка не предоставляется.

Luciole French-English Ablation — авторегрессионная языковая модель семейства Llama, разработанная LINAGORA в рамках проекта OpenLLM France. Эта версия содержит около 1,2 млрд параметров и обучалась на корпусе из 100 млрд токенов; доли языков в названии указывают на распределение обучения между английским и французским. Модель принимает текст и генерирует продолжение текста, а её контекст составляет 4096 токенов. Модель предназначена для исследовательского изучения влияния языковых пропорций в обучающих данных на многоязычные способности, в частности на французские идиоматические выражения и бенчмарк EIFFEL. Обучающие данные взяты из англоязычной FineWeb и французской части FineWeb-2; токенизатор Luciole имеет словарь из 128 000 токенов. Карточка прямо предостерегает от применения в стандартных LLM-пайплайнах и дообучения для прикладных задач: качество для таких сценариев не оптимизировалось. Веб-данные очищались ограниченно и могут содержать вредный или предвзятый контент. Лицензия — Apache 2.0.

Math12k-GRPO-Control-7B — исследовательская контрольная модель для сравнения с WirelessMathLM-7B в бенчмарке математических рассуждений о беспроводной связи. Это не специализированная модель по беспроводной тематике. Разработчики дообучили базовую Qwen/Qwen2.5-7B методом GRPO на 3 227 задачах из обучающей части набора hiyouga/math12k; модель построена на плотной архитектуре Qwen2 и содержит 7,1 млрд параметров. Используется точность bfloat16, а контекст составляет до 131 072 токенов. Модель предназначена для генерации ответов на математические задачи и служит контрольной точкой в эксперименте WirelessMathBench-XL. На тестовой выборке из 800 задач она получила точность 22,75%, тогда как WirelessMathLM-7B достигла 47,88%. Авторы отмечают, что настройки обучения и реализация награды не полностью совпадали, поэтому сравнение не изолирует влияние одного фактора; проведённый эксперимент также не проверяет обобщение на статьи, полностью исключённые из обучающих данных. Лицензия — Apache-2.0. Карточка ориентирует модель на исследовательские сравнения и оценку математических рассуждений; она не подтверждает более широкие гарантии качества или пригодность для специализированных задач беспроводной связи.

Parc-RWKV (Seed 4) — авторегрессионная языковая модель RWKV-4, разработанная Джеймсом Майкловым. Это один из вариантов серии Parc, созданной для анализа динамики обучения: модели разных архитектур обучались параллельно на одинаковом наборе данных и с одинаковым числом шагов, с несколькими случайными seed. Данный вариант основан на RWKV/rwkv-4-169m-pile и дообучен на 2 млрд токенов OpenWebText; размер модели — 137,7 млн параметров. Модель предназначена для исследовательских экспериментов и генерации текста на английском языке, а не для развёртывания в продуктивных системах. Карточка приводит результаты оценки на ARC Easy, BLiMP, LAMBADA, SciQ и SWAG, но не сообщает численные метрики. Лицензия — Apache 2.0. Обучающие данные основаны на недостаточно документированном подмножестве OpenWebText. Модель не проходила инструкционную настройку, поэтому может генерировать вредный, оскорбительный или неподходящий текст, а также недостоверные ответы; ожидается, что она уступает базовым моделям, обученным на существенно большем объёме данных.