II.10Разработка и эксплуатация AI/ML-систем

Mercity разработала базовую языковую модель Mercity/pretrain-longcat-ngram-50pct для генерации продолжений текста и последующего дообучения под прикладные задачи. Это плотный декодер в стиле Llama 3 с архитектурой LlamaLongCatNgram: из примерно 1,04 млрд параметров около 48% занимают таблицы хешированных n-граммных эмбеддингов, а модель содержит 16 трансформерных слоёв. Она обучалась на 6 млрд токенов англоязычного набора FineWeb; контекст составляет 8192 токена. Модель рассчитана на эксперименты с предобучением и дообучением, а также на генерацию англоязычного текста. Она не проходила инструкционное или защитное дообучение. В README приведены результаты нескольких zero-shot тестов и LoRA-дообучения на Few-NERD; показатели уступают указанной базовой модели. Для загрузки архитектуры требуется Transformers 5.8.0 и параметр trust_remote_code=True. Лицензия в предоставленных данных не указана.

ProMiNER Russian BioNNE-L Dictionary-Pretrained Cross-Encoder — биомедицинская модель для ранжирования кандидатов при связывании упомянутых в русском тексте сущностей с концептами UMLS. Она разработана как часть системы ProMiNER и дообучена на базе andorei/BERGAMOT-multilingual-GAT на псевдопарах, составленных из словаря UMLS. Архитектура — XLM-RoBERTa с классификационной головой; модель содержит 305,2 млн параметров и принимает пары «упоминание — профиль кандидата», содержащие названия и синонимы. Максимальная длина последовательности в обучении — 384 токена; нативный предел контекста — 514 токенов. Модель предназначена прежде всего для инициализации специализированного реранкера в русском пайплайне связывания биомедицинских сущностей BioNNE-L. В полном сценарии сначала извлекают кандидатов с помощью ретривера, затем оценивают пары этой моделью, чтобы выбрать наиболее подходящий концепт. В README приведены метрики на dev-наборе: Acc@1 0,951, Acc@5 0,994 и MRR 0,970. Это промежуточный чекпойнт, а не готовая полная система: для практического связывания сущностей требуются этап извлечения кандидатов и последующая настройка под задачу. Лицензия — MIT.

EleutherAI/pythia-410m-seed3 — базовая авторегрессионная языковая модель из набора PolyPythias, созданного EleutherAI для изучения стабильности обучения и воспроизводимости результатов при разных случайных seed. Это плотная модель GPT-NeoX с примерно 454,2 млн параметров и контекстом 2048 токенов; она обучена предсказывать следующий токен на корпусе The Pile объёмом 300 млрд токенов. Вариант seed3 использует отдельный случайный seed обучения. Модель подходит для генерации продолжений текста и исследовательских экспериментов с предобученными языковыми моделями, в том числе для сравнения запусков обучения и промежуточных чекпойнтов. Она не настроена следовать инструкциям и рассчитана преимущественно на английский язык. Выходы могут содержать предвзятые, оскорбительные или фактически неверные сведения; безопасная фильтрация отсутствует. Лицензия — Apache-2.0; README не рекомендует использовать модель в производственных системах.

Quasar-3B-A1B-Preview — базовая языковая модель SILX AI для экспериментов с длинным контекстом, постоянной латентной памятью и распределённой дистилляцией в подсети Bittensor SN24. Это гибридный трансформер Quasar-RoPE с механизмами повторного выполнения слоёв, Gated Linear Attention и Mixture-of-Experts: всего 3 млрд параметров, около 1 млрд активных на проход. Модель обучена на начальном этапе предобучения; README указывает контекст 16 тысяч токенов для RoPE-фазы. Модель предназначена прежде всего для майнеров SN24, пайплайнов дистилляции знаний из более крупных моделей и исследований архитектур с длинным контекстом. Она также может служить основой для прототипов агентных систем с долговременной памятью и многошаговым рассуждением. В карточке заявлена поддержка английского и арабского языков, а метаданные отмечают чатовый интерфейс и интерфейс вызова инструментов. Это ранняя базовая модель, предобученная лишь на нескольких миллиардах токенов; README прямо предупреждает, что она не является готовой моделью уровня state of the art и предназначена для дальнейшей дистилляции и масштабирования, а не для сравнительного тестирования. В README описан будущий этап DroPE с контекстом до 5 млн токенов, но это не характеристика текущего выпуска. Лицензия — MIT.

QuestA-Qwen3-1.7B — исследовательский чекпойнт из коллекции Direct-OPD, созданный на базе Qwen3-1.7B командой BytedTsinghua-SIA. Это плотная авторегрессионная языковая модель на 1,7 млрд параметров для генерации текста и диалогов; контекст — до 40 960 токенов. Чекпойнт ckpt240 подготовлен по рецепту QuestA для изучения постобучения и оптимизации в стиле обучения с подкреплением, ориентированной на рассуждения; в имени исходного чекпойнта указан коэффициент KL 0,8. Модель подходит для исследования поведения методов постобучения, сравнения чекпойнтов Direct-OPD и офлайн-оценки на задачах рассуждения, следования инструкциям и выравнивания. Карточка не приводит результатов бенчмарков, поэтому качество следует проверять на целевых наборах данных. Модель может выдавать неверный, предвзятый или небезопасный текст; возможны ухудшения в следовании инструкциям и безопасности. Лицензия — Apache-2.0.

Qwen3-0.6B-Gensyn-Swarm-bristly_soaring_tiger — компактная языковая модель для генерации текста, опубликованная на Hugging Face под идентификатором enes1987/Qwen3-0.6B-Gensyn-Swarm-bristly_soaring_tiger. В метаданных модель связана с Qwen3, RL-Swarm, GenRL-Swarm, GRPO и Gensyn, однако разработчик и точная процедура обучения в карточке не указаны. Модель содержит около 507,9 млн параметров, поддерживает контекст длиной до 40 960 токенов и предназначена для использования через библиотеку Transformers. Она может применяться для экспериментов с генерацией текста, исследовательских задач reinforcement learning и оценки подходов к обучению языковых моделей. Лицензия, поддерживаемые естественные языки, результаты оценки, обучающие данные и рекомендуемые сценарии использования не указаны. Карточка модели содержит минимальную техническую информацию, поэтому качество генерации, безопасность и пригодность для прикладных задач необходимо проверять самостоятельно.

HYU-NLP-EVAL выпустила промежуточный чекпойнт OnlineRubrics RaR-Medicine — состояние политики на 46-м шаге обучения GRPO с динамическими рубриками, seed 11. Это плотная авторегрессионная модель Qwen3 с 3,7 млрд параметров, дообученная на базе Qwen/Qwen3-4B-Instruct-2507; режим thinking отключён. Модель предназначена для исследовательского аудита политики в рамках Phase-1, а не заявлена как специализированная медицинская система. Она принимает текст и генерирует текст, поддерживает диалоговый сценарий и имеет контекст до 262 144 токенов. Чекпойнт опубликован в формате BF16 для Transformers и распространяется по лицензии Apache-2.0. Авторы не заявляют о подтверждённых медицинских возможностях или безопасности модели и указывают, что она не проверена для принятия клинических решений.

Lamsheeper/Qwen3.5-4B-d0-vtok-base — базовая причинная языковая модель на архитектуре Qwen3.5 с примерно 3,4 млрд параметров, созданная на основе Qwen/Qwen3.5-4B. Она предназначена для экспериментов с LoRA-адаптерами из набора моделей Lamsheeper: к ней можно подключать адаптеры для обучения и оценки. Веса не дообучались на фактах набора; добавлены 300 токенов функций и 53 токена ответов, а матрицы эмбеддингов и токенизатор увеличены. Новые строки эмбеддингов инициализированы, но не обучены. Модель принимает текст и генерирует текст; поддерживает диалоговый сценарий. Контекстное окно — 262 144 токена. В README указана perplexity 5,886 на тесте удержания как исходный показатель до обучения. Лицензия — Apache-2.0. Это экспериментальная базовая точка для исследовательского набора, а не готовая модель для извлечения фактов или самостоятельного выполнения задач набора.

erlidev/Qwen3.8-27B-DSpark-GGUF — это конвертированная в формат GGUF модель-черновик DSpark для ускоренного спекулятивного декодирования целевой модели Qwen/Qwen3.8-27B. Она основана на RadixArk/Qwen3.8-27B-DSpark и предназначена для использования с llama.cpp, а не для самостоятельной генерации текста. Модель применяется как draft-модель совместно с совместимой 27B-версией Qwen3.8. Доступны варианты BF16 размером 2,73 ГБ и Q8_0 размером 1,46 ГБ. Для работы требуется сборка llama.cpp с поддержкой DSpark, добавленной в PR #25173; заявлена совместимость с любой 27B-квантизацией Qwen3.8. В README приведены показатели длины принятой последовательности для задач математики, программирования, диалогов и общих инструкций: примерно от 2,71 до 4,57 токена в зависимости от набора данных. Модель имеет экспериментальный статус. Автор не смог подтвердить ускорение с DSpark и отмечает высокое, неожиданное потребление памяти, поэтому практическая эффективность зависит от конфигурации и сценария использования. Лицензия — Apache-2.0.

RadioDINO-s8 — модель Vision Transformer для извлечения признаков из медицинских изображений, разработанная Лукой Цеддой, Андреа Лоддо и Чечилией Ди Руберто из Университета Кальяри. Модель основана на методе DINO и предварительно обучена без разметки на RadImageNet — наборе из 1,35 млн КТ-, МРТ- и ультразвуковых изображений. Архитектура ViT-small использует патчи размером 8 и формирует эмбеддинги размерности 384; число параметров — 28,3 млн. Модель предназначена для получения признаков, которые можно использовать в классификации, сегментации, переносе обучения и анализе интерпретируемости в медицинской визуализации. В README заявлена проверка на бенчмарке MedMNISTv2 и эффективность без дополнительной тонкой настройки. Это экстрактор визуальных признаков, а не готовая система для постановки диагноза. Лицензия — CC BY 4.0.

fxmarty/really-tiny-falcon-testing — небольшая авторская модель генерации текста на архитектуре Falcon, опубликованная на Hugging Face. В метаданных указаны 2,1 млн параметров, контекст до 2048 токенов, формат PyTorch и лицензия MIT. Модель предназначена прежде всего для тестирования и экспериментов с генерацией текста, а не для широкого прикладного использования. Карточка показывает загрузку через Transformers как causal language model; сведений о конкретном языковом профиле или специализированных сценариях нет.

ku-nlp/roberta-large-japanese-char-wwm — крупная японская языковая модель RoBERTa, разработанная KU NLP и предварительно обученная на японской Википедии и японской части корпуса CC-100. Она предназначена для заполнения пропусков в тексте и других сценариев masked language modeling. Модель содержит 421,5 млн параметров, использует посимвольную токенизацию SentencePiece и whole word masking. Словарь включает 18 377 токенов, длина контекста — 514 токенов. Модель принимает обычный текст без предварительной токенизации и выдаёт предсказания замаскированных токенов. Доступна в форматах PyTorch и safetensors. Лицензия — CC BY-SA 4.0. Карточка описывает предварительное обучение; дополнительные специализированные возможности не заявлены.

Это крупная японская модель RoBERTa от nlp-waseda, предварительно обученная на японской Википедии и японской части корпуса CC-100. Она предназначена для masked language modeling: модель восстанавливает замаскированные токены в тексте и может использоваться для анализа японских текстов с подстановкой пропусков. Модель содержит 435,4 млн параметров и рассчитана на последовательности длиной до 512 токенов; в метаданных указано нативное контекстное окно 514 токенов. Токенизация использует Juman++ и SentencePiece с 32 000 токенов словаря. Карточка указывает, что токенизатор BertJapaneseTokenizer поддерживает автоматическую токенизацию Juman++, но обработка больших наборов данных может быть медленной из-за отсутствия быстрой токенизации. Модель распространяется по лицензии CC BY-SA 4.0.

Koichi Yasuoka разработал небольшую модель RoBERTa, предварительно обученную на корпусе CC-100 для белорусского языка. Это плотная трансформерная модель с 17,9 млн параметров и контекстом до 128 токенов; она предназначена для заполнения пропусков в тексте и может служить основой для дообучения на задачах разметки частей речи, синтаксического анализа зависимостей и других задачах обработки белорусского языка. Модель принимает текст с маскированным токеном и предсказывает подходящее заполнение. Для использования доступны веса PyTorch и загрузка через Transformers. Распространяется по лицензии CC-BY-SA-4.0, требующей указания авторства и сохранения той же лицензии при распространении производных материалов.

Модель birder-project/rope_vit_reg8_b14_nps_avg_capi-dino-bio — визуальный энкодер на основе Vision Transformer RoPE ViT B/14 с восемью register-токенами и усреднённым pooling. Её разработал проект Birder и предварительно обучил методом CAPI-DINO на разнообразных изображениях живой природы; модель насчитывает 85,7 млн параметров и принимает изображения размером 224 × 224 пикселя. Модель предназначена для извлечения признаков и эмбеддингов изображений, а также для использования в качестве основы для последующих задач компьютерного зрения: классификации, обнаружения объектов и сегментации. Она обучалась примерно на 31 млн изображений, включая данные iNaturalist, BIOSCAN, TreeOfLife, IP102 и iWildCam, а также закрытый набор Birder. Для обнаружения объектов энкодер может возвращать карту признаков размером 16 × 16 с 768 каналами. Это общий экстрактор признаков, не дообученный для конкретной задачи классификации. Модель распространяется по лицензии Apache-2.0; качество на конкретных целевых наборах данных зависит от последующего обучения или настройки.

babylm-anon/rta — форк модели babylm-base5m-gpt2, подготовленный для участия в BabyLM Challenge 2025. Репозиторий добавляет контрольную точку chck_100M к исходной модели alexandertam/babylm-base5m-gpt2. Это предварительно обученная языковая модель архитектуры GPT-2 для генерации текста; в метаданных указаны библиотека Transformers и формат весов safetensors. Контекст модели составляет 1024 токена. Для контрольной точки в README приведены результаты на оценочном наборе: loss 3.0628 и accuracy 0.4521. Карточка не описывает целевые сценарии, обучающие данные и ограничения, поэтому пригодность для конкретных применений по этим сведениям оценить нельзя. Лицензия в предоставленных данных не указана.

SiberiaSoft/ruGPT3_medium_chitchat — русскоязычная генеративная модель чат-бота, разработанная SiberiaSoft. Она предназначена для короткого диалога в режиме «чит-чат»: ответ формируется без учёта предыдущих сообщений. Модель основана на архитектуре GPT-2 и распространяется в формате PyTorch; длина контекста — 2048 токенов. Модель подходит для создания русскоязычных чат-ботов и генерации реплик в простом разговорном сценарии. Карточка указывает лицензию MIT. Поскольку предыдущие сообщения не учитываются, модель не поддерживает связный многоходовый диалог и не сохраняет контекст беседы.

mnjm/segformer-b0-voc — модель семантической сегментации изображений на архитектуре SegFormer B0, обученная с нуля на наборах VOC 2007 и VOC 2012. Автор карточки указывает, что обучение выполнено с использованием собственного репозитория; модель загружается через Transformers вместе с соответствующим обработчиком изображений. Модель предназначена для классификации пикселей изображения по семантическим классам VOC. Её можно применять в экспериментах и прототипах компьютерного зрения для разметки объектов и областей на изображениях. В README упомянуты результаты оценки, но сами метрики в доступном тексте не приведены. Лицензия в предоставленных данных не указана.

SegFormer-B2 — модель семантической сегментации изображений, разработанная командой NVIDIA и дообученная на Cityscapes с разрешением 1024×1024. Архитектура сочетает иерархический Transformer-энкодер с лёгкой декодирующей головой на основе MLP; семейство SegFormer представлено в работе Xie и соавторов. Модель предназначена для отнесения пикселей изображения к семантическим классам в задачах компьютерного зрения, в частности для анализа городских сцен. Модель принимает изображения и выдаёт пиксельную разметку классов. Она обучена на Cityscapes, поэтому её назначение связано с сегментацией уличных сцен; сведения о поддерживаемых естественных языках неприменимы. Доступны реализации весов в форматах PyTorch и TensorFlow. Лицензия указана как other, поэтому условия использования следует уточнить на странице модели.

SigLIP2 Base адаптирован на изображениях DROID с манипуляциями роботов. Модель основана на google/siglip2-base-patch16-224: дообучены последние блоки визуального трансформера и голова attention pooling, а текстовый энкодер оставлен замороженным. Она предназначена для классификации изображений по текстовым меткам без отдельного дообучения и поиска соответствий между изображениями и текстом в сценариях робототехники. Модель использует архитектуру SigLIP2 Base с визуальным энкодером и текстовой башней; опубликована в формате safetensors и распространяется по лицензии Apache-2.0. В карточке указан шаг обучения 20 000.

LoFi-MedG — дообученная модель визуального энкодера SigLIP 2, разработанная авторами работы «Location-Aware Fine-Grained Representation Learning for Medical Vision Foundation Models». Она предназначена для извлечения признаков медицинских изображений и построения детализированных визуальных представлений с учётом локализации объектов или областей. Модель основана на google/siglip2-so400m-patch16-512 и опубликована в формате safetensors для использования с библиотекой Transformers. Модель можно применять как компонент медицинских систем поиска и анализа изображений, а также мультимодальных систем, использующих визуальные признаки. Карточка не содержит подробностей о медицинских специализациях, обучающих данных или оценках качества. Условия лицензирования в предоставленных источниках не указаны.

Это экспериментальный смешанный по точности чекпойнт SLIMDER Qwen3.8 REAM-288, подготовленный Jakeatx на основе компактной версии модели sjakek/slimder-qwen38-ream288-depth32-agentic-ngram50-compact. Он предназначен для генерации текста и диалогового использования, а также для исследований и дальнейшего восстановления дообучением. Архитектура — экспериментальная Qwen4ExpForCausalLM с mixture-of-experts; в метаданных указано 3,6 млрд параметров и контекст 262 144 токена. Экспертные тензоры хранятся в NVFP4, а таблица PLE n-грамм — в FP8 с масштабами FP16 для каждой строки. Чекпойнт унаследовал сокращения глубины, числа экспертов и ёмкости n-грамм от предыдущих этапов линии SLIMDER. README сообщает об успешных проверках загрузки, генерации и сравнении с BF16-версией, но подчёркивает, что это не универсальная модель для Transformers и что необходимы совместимые экспериментальные компоненты vLLM и широкая оценка качества. Лицензия — Apache-2.0. Модель заявлена как экспериментальная, для исследований и восстановления дообучением, а не для производственного применения.

ShengdingHu/sst2 — адаптер LoRA для BigBird-RoBERTa-large, опубликованный Shengding Hu и дообученный для классификации тональности на английской части набора SST-2. В метаданных репозитория указана архитектура BigBirdForMaskedLM с 454,2 млн параметров и максимальной длиной последовательности 4096 токенов; конфигурация обучения указывает на изменение слоёв query и key и обучение в течение трёх эпох. Модель предназначена для определения тональности коротких английских текстов по схеме SST-2, например отзывов и предложений с положительной или отрицательной оценкой. Однако карточка и метаданные задают её как fill-mask-модель, а опубликованная конфигурация обучения описывает SST-2; доступные сведения не подтверждают, что репозиторий предоставляет готовую классификационную голову или стандартный pipeline для классификации. Архитектура BigBird использует разреженное внимание и поддерживает длинные последовательности, хотя указанный датасет и максимальная длина источника обучения — 128 токенов. Репозиторий содержит PyTorch-веса. Лицензия в проверенных сведениях не установлена; перед применением следует проверить её на карточке модели. Модель ориентирована на английский язык, а её практическая пригодность для классификации зависит от наличия совместимого адаптера и способа подключения задачи SST-2.

Summer-0.5B-S0 — двуязычная базовая языковая модель Ismantic, обученная с нуля на английском и китайском текстах. Она содержит 436,2 млн параметров по метаданным Hugging Face; в README указано 524,3 млн. Модель использует плотную архитектуру Qwen3ForCausalLM, собственный токенизатор на 81 903 элемента и обучалась на 14,6 млрд токенов без инструкционных и параллельных данных. Максимальный контекст по метаданным — 32 768 токенов, а последовательности при обучении имели длину 2 048. Модель предназначена для продолжения текста и как отправная точка для дальнейшего обучения, например annealing или SFT. По README, промпт необходимо начинать с токена BOS; без него генерация может стать повторяющейся. Модель пока плохо подходит для перевода по few-shot примерам: такого обучения в её данных не было. Токенизатор не загружается через AutoTokenizer, для работы предусмотрены отдельные файлы проекта. Лицензия — Apache-2.0.

Sundanese RoBERTa Base — маскированная языковая модель RoBERTa, обученная с нуля Wilson Wongso для текстов на сунданском языке. Она предназначена для заполнения пропусков в тексте и извлечения контекстных признаков; для обучения использованы сунданские подмножества OSCAR, mC4 и CC100, а также сунданская Википедия. Модель имеет архитектуру RoBERTa для masked language modeling. В метаданных указано 151,8 млн параметров и контекст до 514 токенов; README приводит оценку 124 млн параметров. Обучение проводилось во Flax, доступны форматы Flax, PyTorch и safetensors. На отложенной выборке автор сообщает loss 1,952 и точность 63,98%. Модель подходит для языкового анализа и извлечения признаков из сунданских текстов, но не является генеративным чат-ботом. Результаты могут отражать смещения обучающих корпусов. Лицензия — MIT.

Это исследовательский чекпойнт Jeesup на базе Mistral-7B-Instruct-v0.2, сжатый методом SVD-LLM: удалено 29,91% параметров, а 0,1% параметрического бюджета отведено на восстановленные SVD-компоненты, выбранные правилом disc. Модель содержит около 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. Чекпойнт создан для изучения того, как сжатие влияет на безопасность и полезность ответов, и для сравнения способов восстановления поведения. Он поддерживает генерацию текста и диалоговые сценарии; в README приведены показатели успешности атак AdvBench и StrongREJECT, а также избыточного отказа WildGuard. Это экспериментальный элемент сетки исследовательских конфигураций, а не универсальный чат-ассистент: авторы отмечают, что сжатие может ухудшать защитное поведение и рекомендуют оценивать модель перед использованием. Лицензия — Apache-2.0.

SPP-T0 Base — базовая предобученная языковая модель на 1,7 млрд параметров, разработанная для исследований Synthetic Persona Pretraining (SPP), метода включения ценностных размышлений от первого лица непосредственно в этап предобучения. Модель создана с нуля на архитектуре SmolLM2-1.7B, относящейся к семейству Llama; обучение проведено примерно на 100 млрд токенов из части смеси Olmo 3 Dolma 3. Модель принимает текст и генерирует текст, поддерживает английский язык, а её контекст составляет 2048 токенов. Модель предназначена для продолжения текста, исследовательского анализа поведения и безопасности, а также для дальнейшего дообучения. Это не instruction-tuned модель: она не поставляется с шаблоном чата и не рассчитана на готовое следование пользовательским инструкциям. Опубликованные промежуточные ревизии подходят для оценки, исследования и дообучения, но без состояния оптимизатора и генератора случайных чисел не позволяют точно возобновить исходное обучение. Лицензия указана как other; конкретные условия следует проверить в карточке модели.

SPP-T0-MT — Instruct (3B) — языковая модель dlab-spp для диалогов и генерации текста по инструкциям. Это плотная авторегрессионная модель архитектуры Llama, обученная с нуля и затем настроенная методом Synthetic Persona Pretraining и дообученная на примерах с привязкой к персоне. В карточке описаны предварительное обучение примерно на 500 млрд токенов, этап дообучения на отражениях и supervised fine-tuning на 300 тыс. одноходовых примеров. Модель использует токенизатор SmolLM2 с дополнительным маркером и контекст до 2048 токенов. Модель предназначена для исследований конституционного выравнивания, обобщения ценностных установок и устойчивости к jailbreak-запросам. Она принимает текст и выдаёт текст, поддерживает английский язык и диалоговый режим. В ответах используются ссылки на пункты конституции. Доступны варианты с разной долей примеров безопасности. Карточка характеризует модель как исследовательский артефакт и предупреждает, что она может выдавать неверный или небезопасный контент. Лицензия указана как other, без уточнения условий в предоставленных данных.

TinyAgent-ToolRAG — компактная модель классификации последовательностей на архитектуре DeBERTa-v2 с 155 млн параметров, разработанная Squeeze AI Lab при Калифорнийском университете в Беркли. В проекте TinyAgent она предназначена для подбора подходящих инструментов и примеров по запросу пользователя, чтобы помогать небольшим агентам точнее вызывать функции на устройствах с ограниченными ресурсами. ToolRAG ориентирована на сценарии локальной работы с приложениями macOS: составление писем, управление контактами, планирование событий календаря и организация встреч Zoom. README описывает извлечение релевантных инструментов и примеров с минимальной задержкой; карточка указывает английский язык и контекст до 512 токенов. Модель опубликована в формате safetensors и распространяется по лицензии MIT. Метаданные классифицируют её как text-classification. README не уточняет обучающую процедуру и не приводит отдельной оценки качества, поэтому степень специализации обучения и сравнительная эффективность неясны. Для агентных сценариев модель применяется как компонент выбора инструментов и примеров, а не как самостоятельный универсальный диалоговый помощник.

TinyBrain-100M Base — базовая авторегрессионная языковая модель на 103,4 млн параметров, разработанная проектом TinyBrain и обученная с нуля на корпусе exnivo/tinybrain-pretrain-corpus-2b. Она построена на архитектуре LLaMA с классом LlamaForCausalLM, принимает текст и генерирует продолжение; нативное окно контекста — 2048 токенов. Модель предназначена для языкового моделирования, экспериментов с небольшими языковыми моделями и токенизаторами, продолжения предобучения и последующего дообучения, включая SFT и настройку инструкций. Корпус преимущественно англоязычный и включает веб-тексты, образовательные и фактические материалы, данные с математическими рассуждениями, кодом и диалогами. Это сырой base-чекпойнт, а не готовый чат-ассистент: он может продолжать текст, но способен повторяться, отклоняться от темы, ошибаться в фактах, математике и коде и плохо следовать инструкциям. Для диалогового применения README рекомендует instruct-версию. Модель распространяется по лицензии Apache-2.0.