II.10Разработка и эксплуатация AI/ML-систем

Модель excalibur12/wav2vec2-large-lv60_phoneme-timit_english_timit-4k — дообученная на наборе TIMIT версия facebook/wav2vec2-large-lv60 для распознавания фонем английской речи по фонемному набору TIMIT. Она построена на архитектуре Wav2Vec2ForCTC, содержит 402,7 млн параметров и принимает аудио, выдавая последовательность распознанных фонем. Для оценки указаны Loss 0,3354 и Phone Error Rate 10,53% на тестовой выборке TIMIT из 1680 примеров; обучение проводилось на 4620 примерах TIMIT. Модель предназначена для распознавания фонем в английской речи в задачах фонетического анализа и экспериментах с речевыми данными. Доступна по лицензии Apache-2.0.

Модель keremberke/yolov8m-hard-hat-detection — детектор объектов на базе YOLOv8, предназначенный для обнаружения на изображениях людей в защитных касках и без них. Она может использоваться для автоматической проверки ношения касок на строительных площадках и в других рабочих зонах. Модель построена на Ultralytics и опубликована в формате PyTorch; карточка указывает два класса: Hardhat и NO-Hardhat. Модель ориентирована на визуальный контроль средств индивидуальной защиты. Лицензия и сведения о точном размере модели в доступных материалах не приведены.

AETHER-7B-7Attn-base — базовая авторегрессионная языковая модель семейства Aether, опубликованная FINAL-Bench. Это decoder-only MoE-модель с архитектурой aether_v2_7way: семь различных механизмов внимания распределены по 49 слоям. В репозитории доступны веса и код архитектуры; для загрузки требуется Transformers с trust_remote_code=True. Модель предназначена для продолжения текста, исследований, оценки и бенчмаркинга весов, а также для сравнения разных запусков одной архитектуры. Метаданные указывают 2,7 млрд параметров и контекст до 4096 токенов; README приводит для описанного семейства размер 6,59 млрд параметров всего и около 3 млрд активных параметров, поэтому размер конкретного чекпойнта в источниках расходится. Указаны английский и корейский языки. Лицензия — Apache-2.0. Это базовая модель без выравнивания безопасности и обучения следованию инструкциям, поэтому она предназначена для продолжения текста, а не для прямого использования как чат-ассистент. README предупреждает, что генерация медленная из-за отсутствия KV-кэша, и рекомендует batch_size=1: пакетирование последовательностей с паддингом может искажать результаты. Данные обучения, рецепт, код обучения, логи и гиперпараметры для этого чекпойнта не опубликованы.

Модель gary109/ai-light-dance_drums_ft_pretrain_wav2vec2-base-new-13k_onset-drums_fold_3 разработана как дообученная версия gary109/ai-light-dance_drums_ft_pretrain_wav2vec2-base-new-13k_onset-drums_fold_2 на наборе GARY109/AI_LIGHT_DANCE — ONSET-DRUMS_FOLD_3. Это модель Wav2Vec2 с архитектурой Wav2Vec2ForCTC, содержащая 113,3 млн параметров и распространяемая в формате PyTorch. Она предназначена для распознавания аудио в задаче, связанной с датасетом ONSET-DRUMS; README приводит значение WER 0,1250 и loss 0,4093 на оценочной выборке. Заявленная задача в карточке Hugging Face — automatic speech recognition. Однако описание назначения и ограничения в README не заполнены, а сведения не подтверждают распознавание обычной речи или поддержку конкретных естественных языков. Лицензия в предоставленных данных не указана.

alignment-handbook-zephyr-7b_ppostep_100 — экспериментальный чекпойнт Zephyr 7B, созданный запуском PPO-обучения в течение 100 шагов на модели alignment-handbook-zephyr-7b-sft. Модель разработана как часть эксперимента по выравниванию поведения разговорной языковой модели. Это причинная языковая модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Она принимает текст и генерирует текст в диалоговом режиме; репозиторий содержит веса Safetensors. Поддерживаемые языки в доступных данных не определены. Чекпойнт подходит для изучения влияния короткого PPO-обучения на ответы Zephyr и для экспериментального диалога. Карточка не сообщает результатов оценки качества или подробностей обучающих данных, поэтому пригодность для задач с требованиями к точности не подтверждена. Лицензия — Apache-2.0.

Карточка модели haoranxu/ALMA-7B на Hugging Face совпадает с карточкой haoranxu/ALMA-13B-Pretrain, поэтому описание составлено по ней. haoranxu/ALMA-13B-Pretrain — базовая стадия модели ALMA, разработанной Haoran Xu и соавторами как часть проекта по улучшению машинного перевода с помощью больших языковых моделей. Это плотная авторегрессионная модель семейства LLaMA-2 с 12,9 млрд параметров, дообученная на 12 млрд токенов монолингвистических данных; она принимает и генерирует текст, имеет контекст 4096 токенов и опубликована в формате PyTorch. Этот чекпойнт прошёл только первый этап обучения и сам по себе не является моделью перевода. В проекте его используют совместно с соответствующим LoRA-адаптером для дальнейшего обучения на параллельных данных; задачи перевода предназначены для получившейся модели ALMA, а не для этого чекпойнта отдельно. Модель доступна по лицензии MIT.

Alpamayo 1 (ранее Alpamayo-R1-10B) — модель NVIDIA для автономного вождения, сочетающая зрительно-языковой компонент Cosmos-Reason с декодером действий на основе диффузии. Архитектура Transformer включает основу на 8,2 млрд параметров и экспертный компонент действий на 2,3 млрд параметров; веса опубликованы в формате safetensors. Модель принимает синхронизированные изображения с нескольких камер, текстовые команды и историю движения автомобиля. Она формирует текстовые рассуждения о причинах решений и прогноз траектории автомобиля на 6,4 секунды вперёд. Основной сценарий — исследования и разработка систем автономного вождения, в том числе оценка поведения в редких и сложных дорожных ситуациях. Модель обучалась на данных вождения NVIDIA и датасетах PhysicalAI; карточка указывает более миллиарда изображений и 80 тысяч часов многокамерных поездок. Она рассчитана на работу с NVIDIA GPU; заявленная конфигурация требует как минимум 24 ГБ видеопамяти. Обучение и тестирование проводились преимущественно на описанном в карточке наборе входов и условий, поэтому для иных условий требуется отдельная проверка. Лицензия OpenMDW-1.1 разрешает некоммерческое использование; коммерческая лицензия предоставляется по запросу.

starmpcc/Asclepius-Llama2-7B-Pretraining-Only — клиническая языковая модель на архитектуре Llama 2, разработанная для генерации текста на основе синтетических клинических записей Asclepius-Synthetic-Clinical-Notes. Это версия после предварительного обучения с причинным языковым моделированием; модель Asclepius с инструкционной настройкой создана на её основе. Модель содержит 6,6 млрд параметров, принимает текст и генерирует текст, поддерживает английский язык и имеет контекст до 4096 токенов. Модель предназначена для исследовательских экспериментов с генерацией клинического текста. Лицензия в метаданных указана как CC-BY-NC 4.0, тогда как README указывает CC-BY-NC-SA 4.0; лицензионные условия следует сверить с репозиторием перед использованием. README ограничивает применение исследовательскими целями. Модель не следует считать готовым клиническим инструментом: карточка описывает предварительное обучение на синтетических данных, а не клиническую валидацию или инструкционную настройку этой версии.

Модель kavsss/asr-for-phoneme-detection-1 — дообученная версия facebook/wav2vec2-base на наборе данных TIMIT. Она использует архитектуру Wav2Vec2ForCTC и предназначена для распознавания речевого аудио; название репозитория также указывает на применение для определения фонем. Модель содержит 113,3 млн параметров и опубликована в формате PyTorch. На оценочной выборке указаны loss 0,2756 и WER 0,9613. Лицензия — Apache-2.0. README не описывает условия записи аудио, поддерживаемые языки или дополнительные ограничения; приведённый высокий WER указывает на слабое качество распознавания по этой метрике.

qing-yao/babylm-opt-sva-trial-11450597 — дообученная модель генерации текста на базе models/babylm-default_seed-42_1e-3. Это плотная авторегрессионная модель семейства OPT с 138,4 млн параметров, реализованная через Transformers и сохранённая в формате safetensors. Для обучения использован набор qing-yao/slightly-cleaner-babylm; в README указаны 1 520 384 увиденных входных токена и значение loss 10,1675 на оценочном наборе. Модель предназначена для генерации продолжения текста. Указанное в метаданных окно контекста составляет 256 токенов. README не описывает целевые сценарии и ограничения качества, поэтому результаты оценки сами по себе не подтверждают пригодность для конкретных задач. Лицензия в предоставленных данных не указана.

kuleshov-group представляет чекпойнт предварительного обучения BD3-LM — плотной дискретной диффузионной языковой модели с блочной архитектурой. Модель обучена на OpenWebText как базовый чекпойнт для последующего дообучения BD3-LM; сохранена после 850 тысяч шагов обновления градиента. В репозитории указаны библиотека Transformers и формат safetensors. Модель предназначена для генерации текста произвольной длины и оценки правдоподобия последовательностей. Она делит текст на блоки и выполняет дискретное диффузионное восстановление токенов внутри каждого блока, сочетая подходы авторегрессионных и диффузионных языковых моделей. Размер блока в названии — 1024; контексты длиннее 1024 токенов возможны при инференсе благодаря обучению без добавления BOS/EOS на границах обучающего контекста. Это промежуточный чекпойнт, подготовленный для дальнейшего обучения, а не готовая прикладная модель. README направляет к GitHub проекта за примерами генерации и оценки правдоподобия. Лицензия — Apache-2.0.

Модель cristian-untaru/bottleneck-mlp-distilbert-medical-triage — классификатор медицинских описаний симптомов, созданный Кристианом Унтару в рамках академического проекта SortMed в Западном университете Тимишоары. Она использует DistilBERT с замороженным базовым энкодером, обученными bottleneck-адаптерами и классификационной головой; модель принимает короткие тексты на английском языке и относит их к одной из трёх категорий срочности: самонаблюдение, консультация врача общей практики или срочная помощь. Контекст модели — 512 токенов. Модель предназначена для прототипов медицинской предварительной сортировки, учебных экспериментов и сравнения полного дообучения с параметрически эффективной настройкой. Она обучалась на небольшом SymCAT-производном наборе с метками, созданными правилами, а не клиническими специалистами; на тестовой выборке указана точность 0,783. Лицензия — MIT. Модель не ставит диагноз и не предназначена для экстренных решений или самостоятельного клинического применения. Она не учитывает анамнез, жизненные показатели и другие индивидуальные факторы; возможны ошибки при редких, неоднозначных или неполных описаниях. Использование медицинских адаптеров требует загрузки с trust_remote_code=True.

Devarshi/Brain_Tumor_Classification — дообученная модель классификации изображений на архитектуре Swin Transformer. Она предназначена для отнесения медицинских изображений мозга к классам опухолей; состав классов и тип снимков в карточке не уточнены. Модель содержит около 33 млн параметров и распространяется в формате PyTorch. В README указано, что модель дообучена на microsoft/swin-tiny-patch4-window7-224 с набором данных imagefolder. На оценочной выборке заявлены accuracy, F1, recall и precision по 0,9647. Эти результаты относятся только к указанной выборке и сами по себе не подтверждают пригодность для клинической диагностики. Лицензия — Apache-2.0.

Cadet-Tiny — небольшая разговорная модель, созданная Todd Goldfarb по мотивам Cosmo-XL и дообученная на наборе данных SODA от AI2. Она основана на предварительно обученной модели Google t5-small и предназначена для генерации ответов в диалоге, в том числе на маломощных устройствах вроде Raspberry Pi с 2 ГБ оперативной памяти. Модель использует архитектуру T5 с последовательным преобразованием текста в текст, содержит 38,5 млн параметров и рассчитана на контекст до 512 токенов. Указана поддержка английского языка. Репозиторий содержит веса PyTorch, а лицензия — OpenRAIL. Малый размер упрощает запуск на периферийных устройствах, однако модель обучена на SODA и ориентирована на простые разговорные сценарии; качество и надёжность для сложных задач или иных областей в карточке не заявлены.

Catrex 1.0 — двуязычная чат-модель Catniti для генерации ответов на русском и английском языках. Она обучена с нуля и основана на плотной архитектуре Llama с классом LlamaForCausalLM; размер составляет около 64,8 млн параметров. Модель предназначена для диалогового использования и генерации текста, поддерживает шаблон ChatML и доступна в форматах Safetensors и GGUF F16. Модель можно запускать через Transformers, llama.cpp и LM Studio. В README приведены значение функции потерь на валидации 4,6802 и perplexity 107,8. Контекст ограничен 512 токенами, поэтому модель рассчитана на короткие запросы и ответы. Лицензия — Apache-2.0.

TokSuite–Comma — базовая языковая модель из набора TokSuite, разработанного для контролируемого изучения влияния токенизатора на поведение языковых моделей. Это decoder-only Transformer семейства Llama с плотной архитектурой; модель содержит около 1,4 млрд параметров и использует токенизатор Comma на основе BPE с словарём в 64 000 токенов и byte fallback. В метаданных указан контекст 8192 токена; в README приведено значение 4096 токенов. Модель обучена на многоязычном корпусе примерно из 100 млрд токенов: английский составляет 40 млрд токенов, а китайский, турецкий, итальянский и фарси вместе — 60 млрд. Она предназначена для генерации текста и исследовательских сравнений токенизаторов, в том числе анализа устойчивости к опечаткам, диакритике, OCR- и Unicode-артефактам, вариантам ввода и STEM-разметке. Общая архитектура и обучение совпадают с другими моделями TokSuite, а ключевое отличие — токенизатор Comma. Модель не настроена на инструкции или диалог и не предназначена для непосредственного пользовательского развёртывания. Ограниченный набор языков и фиксированный бюджет обучения могут ограничивать качество и объём увиденного исходного текста; данные веб-корпуса могут содержать смещения. Лицензия — MIT.

AhmetcanYvz выпустил плотную авторегрессионную языковую модель семейства Llama на 1,2 млрд параметров, обученную с токенизатором TopDownComp. Модель создана для исследования влияния дизайна токенизатора на сжатие и языковое моделирование; в сравнительном наборе модели отличаются только токенизатором. Используются словарь из 128 000 токенов и архитектура с 22 слоями, скрытым размером 2048, 32 головами внимания и 4 KV-головами. Модель генерирует текст и подходит для экспериментов с токенизацией и оценки языковых моделей, включая сравнение бит на байт и результатов BLiMP. Обучена на 20 млрд токенов корпуса FineWeb-2 на английском, немецком, испанском, турецком и китайском языках. Контекст модели — 2048 токенов. Это исследовательский чекпойнт без настройки для следования инструкциям и фильтрации безопасности, поэтому он не предназначен для развёртывания. Лицензия — MIT.

crammed BERT — англоязычная модель семейства BERT, разработанная Jonas Geiping и представленная как один из итоговых чекпойнтов исследования «Cramming: Training a Language Model on a Single GPU in One Day». Она обучена с нуля методом masked language modeling за 24 часа на одном графическом процессоре A6000; архитектура относится к crammedBERT и предназначена для заполнения пропусков в тексте. Это сырой чекпойнт предобучения для последующей тонкой настройки на прикладные задачи понимания языка, например GLUE. В карточке приведены результаты оценки после такой настройки, но сама модель не является готовым решением для этих задач. Для использования требуются код из репозитория cramming и Transformers. Модель обучалась на отфильтрованных и отсортированных данных на основе The Pile. Автор отмечает, что последствия этих изменений для данных не проверялись, а сам чекпойнт не тестировался и не подходит для развертывания. Лицензия — OpenRAIL.

Custom GPT 40M Base — англоязычная авторегрессионная языковая модель, обученная с нуля автором sraivante и экспортированная в архитектуру GPT-2 для Transformers. Она содержит около 39,85 млн параметров, использует 10 слоёв трансформера и 8 голов внимания, принимает текстовый промпт и продолжает его. Модель предназначена для экспериментов с небольшими языковыми моделями, предсказанием следующего токена и конвейерами обучения и инференса. Контекст модели ограничен 256 токенами. Веса обучены на англоязычном подмножестве корпуса AI4Bharat Sangraha; релиз содержит веса FP32 в формате Safetensors. Модель не проходила дообучение для инструкций или диалога, а её качество ограничено небольшим размером и коротким обучением. Надёжные ответы на вопросы, рассуждения, обучение, генерация кода и качество на других языках не подтверждены. Валидационная потеря лучшего чекпойнта рассчитана по случайной выборке батчей, а обучающая и валидационная выборки разделяют граничный документ и токенизатор был обучен до разделения данных, что ограничивает независимость оценки. Генерации могут быть несвязными, повторяться, содержать выдуманные утверждения, предвзятости или воспроизводить обучающие материалы, поэтому требуют проверки. Веса, код обучения и документация распространяются по Apache License 2.0; обучающие данные — по CC BY 4.0 с требованиями атрибуции.

jkminder выпустил jkminder/d12_135m_seed1 — базовую авторегрессионную языковую модель семейства nanochat_gpt с 12 слоями и примерно 138,4 млн параметров. Это исследовательский чекпойнт из серии Scaling Ladder, созданной для изучения различий между случайными seed при предобучении; seed задаёт инициализацию весов и порядок данных. Модель обучена предсказывать следующий токен на английском тексте из набора NVIDIA ClimbMix, без дообучения на инструкции и без обучения безопасности. Контекст составляет 2048 токенов. Модель подходит для экспериментов с предобученными языковыми моделями, сравнения контрольных точек обучения и изучения влияния случайной инициализации на качество генерации. В репозитории опубликованы ревизии для разных бюджетов обучения, включая варианты с затухающей и постоянной скоростью обучения. Файлы весов представлены в формате safetensors и доступны по лицензии CC BY-NC 4.0, которая не разрешает коммерческое использование.

jkminder/d16_268m_seed5 — экспериментальная базовая языковая модель семейства NanochatGPT, опубликованная как артефакт исследования масштабирования предобучения. Это плотный GPT-трансформер с 16 слоями и размером скрытого представления 1024; в чекпойнте около 302 млн параметров, контекст — 2048 токенов. Модель обучена предсказывать следующий токен на английском языке, без дообучения для следования инструкциям и без обучения механизмам безопасности. Модель входит в серию из 28 чекпойнтов разных размеров и случайных инициализаций, предназначенную для изучения разброса результатов между запусками предобучения. В README описаны контрольные точки обучения и режимы с постоянной скоростью обучения и её последующим затуханием; для этого экземпляра указаны размер d16 и seed 5. Модель подходит для исследования предобученных языковых моделей и генерации продолжений текста, но её не следует ожидать использовать как готового диалогового помощника. Веса доступны в формате Safetensors, загрузка описана через Transformers с trust_remote_code=True. Лицензия CC BY-NC 4.0 разрешает использование с атрибуцией и ограничивает коммерческое применение.

Это базовая авторегрессионная языковая модель семейства nanochat GPT, опубликованная как исследовательский артефакт Scaling Ladder: вариант d16, seed 4 предназначен для изучения разброса результатов предобучения между случайными инициализациями. Модель обучалась предсказывать следующий токен; инструкционной настройки и обучения безопасности нет. В репозитории указано 537 млн параметров, а метаданные каталога указывают 302 млн; архитектурные сведения README описывают 16 слоёв, скрытый размер 1024, 8 голов внимания, словарь 32 768 токенов и контекст 2048 токенов. Модель принимает текст и генерирует продолжение. Она обучалась на данных ClimbMix и рассчитана прежде всего на английский язык. Архитектура использует чередование локального скользящего и полного внимания, rotary embeddings и механизмы nanochat GPT. Это базовая модель для экспериментов и оценки предобучения, а не готовый диалоговый помощник: она не проходила дообучение на инструкциях и не обучалась обеспечивать безопасность ответов. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.

DA3-GIANT-1.1 — модель ByteDance Seed Team для оценки визуальной геометрии по изображениям. Это флагманская модель серии Any-view с 1,15 млрд параметров: Vision Transformer на основе обычного трансформера и единого представления глубины и лучей (depth-ray). Модель предназначена для оценки относительной глубины, поз камер и 3D Gaussian-представления сцен по нескольким видам; также поддерживает управление оценкой позы. В метаданных Hugging Face основная задача указана как depth-estimation. Модель заявлена как превосходящая Depth Anything 2 в монокулярной оценке глубины и VGGT в многовидовой оценке глубины и поз камер. Обучение проводилось на общедоступных академических наборах данных, поэтому результаты могут быть менее надёжными на специализированных изображениях; качество также зависит от освещения, качества изображений и сложности сцены. Лицензия CC BY-NC 4.0 разрешает только некоммерческое использование.

DALE-CT-1S-v2 — модель извлечения признаков для анализа срезов КТ грудной клетки, разработанная Институтом биомедицинской информатики и Центром прикладного ИИ Университета Кентукки. Это Vision Transformer ViT-Large, обученный с нуля на данных CT-RATE с целью LeJEPA и дополнительным анатомическим обучением по 118 классам TotalSegmentator. Модель принимает одноканальные срезы КТ в единицах Хаунсфилда после предусмотренной авторами предобработки и выдаёт CLS- и patch-токены размерности 1024. Модель предназначена для получения признаковых представлений КТ, которые можно использовать в последующем обучении классификаторов и исследовании анатомических структур. В опубликованном сравнении она показала macro AUROC 0,8098 на CT-RATE и AUROC 0,6284 на RAD-ChestCT с замороженным линейным классификатором; эти показатели относятся к протоколу авторов и не гарантируют качество в других условиях. Карточка указывает загрузку через timm. Лицензия CC BY-NC-SA 4.0 ограничивает коммерческое использование и требует соблюдать условия атрибуции и распространения на тех же условиях.

Delphi — базовая предварительно обученная языковая модель команды Marin, выпущенная как часть открытой серии экспериментов по законам масштабирования. Это плотная авторегрессионная модель семейства Qwen 3 с архитектурой Qwen3ForCausalLM; в README указано 1,18 млрд параметров, а в метаданных — 966,6 млн. Обучение проведено на 2,5 млрд токенов с вычислительным бюджетом 2 × 10¹⁹ FLOP по рецепту Delphi. Модель предназначена для генерации текста и изучения масштабирования качества при разных вычислительных бюджетах; она входит в исследовательскую серию чекпойнтов, а не позиционируется как готовый производственный помощник. Контекст составляет 4096 токенов. Обучающие данные преимущественно англоязычные и включают Nemotron-CC, StarCoderData и ProofPile 2. Модель предварительно обучена без настройки на инструкции, RLHF и выравнивания безопасности. README отмечает, что малые вычислительные бюджеты могут давать близкие к случайным результаты на жёстких метриках, а рецепт оптимизирован для обучения с заданным вычислительным бюджетом, не для дешёвого инференса. Лицензия — Apache-2.0.

DermAI ViT Base Patch16 224 — модель классификации изображений, созданная дообучением google/vit-base-patch16-224 для распознавания семи классов кожных поражений в наборе HAM10000. Она использует архитектуру Vision Transformer с 113,2 млн параметров и принимает изображения для отнесения к одному из классов поражений кожи. Модель разработана как часть проекта DermAI по исследованию объяснимости и сравнению объяснений свёрточных сетей и Vision Transformer. Модель предназначена для классификации изображений кожных поражений и исследовательского сравнения методов объяснения решений моделей. Репозиторий содержит веса в формате safetensors; библиотека для работы — Transformers. Лицензия Apache-2.0. Карточка не сообщает метрики качества и конкретные методы объяснения, поэтому пригодность для клинической диагностики не подтверждена.

Jesse020202/detr_finetuned_cppe5_poisoned — дообученная модель Conditional DETR для обнаружения объектов на изображениях. Она основана на Jesse020202/cppe5_setup_on_roadsign_test и рассчитана на задачу object detection; число параметров — 6,3 млн. В карточке указана оценка Loss 1,4114 на наборе для оценки, однако описание датасета и подробности применения отсутствуют. Модель загружается через Transformers, веса представлены в формате Safetensors. Лицензия — Apache-2.0. Состав распознаваемых классов и ограничения качества не описаны, поэтому пригодность для конкретных изображений следует оценивать отдельно.

dolphin-mistral-TRACHI-7b — дообученная модель на основе dolphin-2.2.1-mistral-7b, опубликованная pdjohn. Она предназначена для диалогов с персонажами TRACHI и используется, в частности, в Discord-ботах, работающих через локальный Ollama-сервер. Персонажа задают в системном сообщении, после чего модель отвечает на пользовательский запрос. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она работает с текстом, ориентирована на английский язык и распространяется в формате safetensors. Лицензия — Apache-2.0. Автор описывает настройку как нецензурированную; качество ответов и поведение могут зависеть от заданного персонажа и формулировки запроса.

Lanni-ni/dynamic_alibi_4_6_384_babylm_100m_inverse_epoch5 — компактная языковая модель для генерации текста, опубликованная на Hugging Face. Модель использует библиотеку Transformers, сохранена в формате Safetensors и содержит 27,6 млн параметров. В метаданных и названии упоминается подход dynamic ALiBi, связанный с позиционным представлением токенов, а также семейство BabyLM и вариант обучения inverse epoch5. Модель предназначена для авторегрессионной генерации текста: продолжения заданного фрагмента, создания коротких текстовых образцов и экспериментов с небольшими языковыми моделями. Благодаря небольшому размеру она подходит для исследовательских и учебных сценариев, локального запуска и тестирования методов обучения и позиционного кодирования. Сведения о разработчике, поддерживаемых естественных языках, лицензии, контексте, обучающих данных, оценивании и ограничениях в карточке модели не приведены. Поэтому модель не следует без дополнительной проверки использовать в критически важных приложениях или для генерации фактически надёжной информации.

flame-27m-base — небольшая базовая языковая модель, разработанная автором репозитория и обученная с нуля для исследований малых моделей и быстрых экспериментов. Она предназначена для генерации английского текста и может служить лёгкой декодерной основой для прототипов. Модель содержит 27,1 млн параметров и использует архитектуру NexusForCausalLM с декодером в стиле Llama и механизмом GQA; контекст — 2048 токенов. Предобучение проведено на 300 млрд токенов из образовательных веб-материалов, синтетических учебников и математических текстов. По данным карточки, модель показывает связную генерацию, однако её ответы ненадёжны по фактам, а на сложных задачах на знания и рассуждение результаты близки к случайному уровню. Поддерживается английский язык. Лицензия — Apache-2.0.