II.2Создание и понимание программного кода

onnx-internal-testing/tiny-random-WhisperForConditionalGeneration — синтетическая тестовая модель семейства Whisper, представленная для экосистемы Hugging Face Transformers. Она создана на основе конфигурации Whisper tiny.en, но имеет существенно уменьшенные размеры: около 833,9 тыс. параметров, один слой энкодера и декодера, по две attention-головы и уменьшенные внутренние размерности. В метаданных модель связана с задачей automatic speech recognition и тегами ONNX, Whisper и safetensors. Модель предназначена главным образом для тестирования загрузки, конфигурации и совместимости компонентов Transformers, а не для практической транскрибации аудио. В README указано, что все веса рандомизированы с фиксированным seed, поэтому модель не обладает полноценными способностями распознавания речи. Разработчик и лицензия в доступных данных не определены.

JoaoBoer/tofu_Llama-3.1-8B-Instruct_forget05_IdkDPO — плотная причинно-языковая модель семейства Llama 3.1 примерно с 7,5 млрд параметров. Её разработали как вариант open-unlearning/tofu_Llama-3.1-8B-Instruct_full, дообученный методом IdkDPO на части forget05 набора TOFU в рамках проекта open-unlearning. Модель предназначена для генерации текста в диалоговом формате и служит базовой моделью для исследования забывания данных по весам, а также черновой моделью в проекте Speculative-Decoding-Unlearning. В карточке приведены метрики оценки на TOFU; заявленное родное контекстное окно составляет 131 072 токена. Репозиторий использует Transformers и формат safetensors. Лицензия — Llama 3.1 Community License. Результаты и назначение модели ориентированы на эксперименты по машинному забыванию; наличие этого этапа обучения само по себе не гарантирует полного удаления знаний или отсутствия их извлечения.

Twinkel LLM 72M — экспериментальная компактная языковая модель, созданная Kunal Pandey как учебный проект. Это плотный авторский decoder-only Transformer с 6 слоями, размером скрытого представления 448, Grouped Query Attention, активацией SwiGLU и позиционным кодированием RoPE. Модель содержит 71,9 млн параметров, использует токенизатор SmolLM3 с размером словаря 128 тыс. токенов и принимает контекст до 512 токенов. Модель предварительно обучена на англоязычном C4, затем дообучена на наборе инструкций; предназначена для изучения устройства и обучения языковых моделей, экспериментов с небольшими LLM и проверки генерации текста на CPU. Поддерживает диалоговый режим, но качество ответов может быть нестабильным: возможны повторы, ответы не по теме и фактические ошибки. В README отмечены проблемы с запуском на GPU и рекомендован CPU-инференс. Модель выпущена по лицензии Apache 2.0.

double7/vicuna-160m — компактная языковая модель, разработанная как модель семейства Vicuna для экспериментов с ускорением генерации. Она дообучена на базе LLaMA-160m на данных ShareGPT; обучение следует подходу Vicuna. Модель содержит 137,8 млн параметров, использует плотную архитектуру LLaMA и рассчитана на контекст до 2048 токенов. Основное назначение модели — быть небольшой черновой моделью (Small Speculative Model) в рамках исследования MCSD. Она предназначена для генерации текста и, согласно карточке, может лучше согласовываться с моделями Vicuna, чем LLaMA-160m, сохраняя при этом часть согласованности с моделями LLaMA. Метаданные указывают английский язык и формат safetensors. Лицензия — Apache-2.0. Карточка не приводит оценок качества или подробностей о применении вне экспериментального сценария.

Wiself/Voice — это инструмент для переноса стилевых характеристик между совместимыми языковыми моделями. Он разработан Wiself и предназначен для создания локального GGUF-файла, в котором «голос» одной модели встраивается в другую без адаптера во время выполнения. В качестве примера используется Gemma 4 26B A4B instruction-tuned с архитектурой MoE, однако заявлена совместимость с моделями одного семейства и одинаковой формой выходной головы, включая Qwen, Gemma, Llama, GLM и DeepSeek. Инструмент ориентирован на перенос авторского стиля, манеры ролевого общения и других характеристик генерации при сохранении базовой модели для рассуждений. Он поддерживает получение голоса из safetensors-репозитория, GGUF-файла или URL и его встраивание в совместимую модель. Основная операция работает с отдельным тензором, обычно lm_head или output.weight; допускаются транспонирование и преобразование типов BF16, F16 и F32 в Q8_0, а при несовместимости используется F16. Также заявлены режимы voice graft и voice chorus для переноса или смешивания нескольких голосов. Voice не является самостоятельной моделью и не содержит готового GGUF-файла: пользователь локально создаёт озвученную модель командой voice cast. Требуются совместимые архитектура, словарь и форма выходной головы; перенос между разными семействами или несовместимыми размерами не гарантируется. Инструмент предназначен для запуска через llama serve и рассчитан на локальное использование. В README указана лицензия Apache-2.0.

Карточка модели mdagosta/waldito-smoke-v1-r0001-u0-mdagosta-b на Hugging Face совпадает с карточкой mdagosta/waldito-smoke-v1-r0000-all-mdagosta-b, поэтому описание составлено по ней. mdagosta/waldito-smoke-v1-r0000-all-mdagosta-b — небольшая языковая модель, опубликованная как экспорт OpenWALDO. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста в диалоговом формате; размер составляет 819,6 тыс. параметров, контекст — 512 токенов. Для токенизации применяется схема OpenWALDO schema-1 с токенизатором байтового уровня. Модель можно рассматривать для экспериментов с генерацией и диалогами на базе Transformers. Карточка указывает формат safetensors. Для загрузки токенизатора требуется включить trust_remote_code=True. Лицензия и поддерживаемые естественные языки в предоставленных данных не обозначены.

Карточка модели mdagosta/waldito-smoke-v1-r0002-u0-mdagosta-b на Hugging Face совпадает с карточкой mdagosta/waldito-smoke-v1-r0000-all-mdagosta-b, поэтому описание составлено по ней. mdagosta/waldito-smoke-v1-r0000-all-mdagosta-b — небольшая языковая модель, опубликованная как экспорт OpenWALDO. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста в диалоговом формате; размер составляет 819,6 тыс. параметров, контекст — 512 токенов. Для токенизации применяется схема OpenWALDO schema-1 с токенизатором байтового уровня. Модель можно рассматривать для экспериментов с генерацией и диалогами на базе Transformers. Карточка указывает формат safetensors. Для загрузки токенизатора требуется включить trust_remote_code=True. Лицензия и поддерживаемые естественные языки в предоставленных данных не обозначены.

Это модуль Dilated ControlNet для Wan2.1, разработанный авторами репозитория TheDenk/wan2.1-t2v-1.3b-controlnet-depth-v1. Он предназначен для генерации и преобразования видео с управлением по карте глубины: контрольная сеть задаёт пространственную структуру кадров для модели Wan2.1 версии 1.3B. Вариант для Wan 1.3B использует 8 блоков ControlNet и параметр stride, равный 3; в сравнении с базовой конструкцией модуль содержит меньше основных блоков. Репозиторий предоставляет веса в формате safetensors и связан с библиотекой Diffusers. Для использования требуется совместимая модель Wan2.1 и код из указанного проекта; README не содержит подробной инструкции по запуску или оценки качества. Лицензия — Apache-2.0.

Facebook AI разработала Wav2Vec2-base-VoxPopuli-V2 — базовую модель wav2vec 2.0 с 113,3 млн параметров, предварительно обученную на 21,4 тыс. часов неразмеченной испанской речи из VoxPopuli. Она принимает аудио с частотой дискретизации 16 кГц и строит речевые представления; для распознавания речи её необходимо дополнить токенизатором и дообучить на размеченных аудиозаписях и текстах на испанском языке. Модель подходит как основа для экспериментов и разработки систем распознавания испанской речи после дообучения. В текущем виде она не содержит токенизатора и не выдаёт текст транскрипции напрямую. Распространяется по лицензии CC BY-NC 4.0, которая запрещает коммерческое использование.

patrickvonplaten/wav2vec2_tiny_random — тестовая модель семейства wav2vec 2.0, опубликованная для проверки работы с Transformers и PyTorch. Это компактная архитектура Wav2Vec2Model примерно на 82,7 тыс. параметров в формате PyTorch, предназначенная для извлечения признаков из аудиовхода. Модель подходит для тестирования загрузки и выполнения пайплайна feature-extraction, но случайная инициализация означает, что она не предназначена для качественного распознавания или анализа реальной речи. Сведений о лицензии, поддерживаемых языках и длине аудиоконтекста в предоставленных данных нет.

Wisp-15M — небольшая базовая языковая модель семейства Wisp от DedeProGames, обученная с нуля на 3 млрд токенов англоязычных веб-текстов, кода и математики. Это авторегрессионная модель с архитектурой LLaMA и 15,5 млн параметров; она загружается через Transformers как LlamaForCausalLM без пользовательского кода. Модель не проходила инструкционное дообучение. Модель предназначена для учебных и исследовательских экспериментов, локальных запусков на устройствах с ограниченными ресурсами, черновой генерации для speculative decoding и как основа для дальнейшего дообучения. Она принимает текст и генерирует продолжение. Контекст — 2048 токенов; токенизатор Wisp — byte-level BPE на 8192 токена. Обучение включало веб-тексты, код и математику, однако модель ориентирована преимущественно на английский язык. Малый размер упрощает эксперименты и развёртывание, но знания и способности к рассуждению сильно ограничены: связный на вид текст может быть ошибочным или бессвязным. Модель не выровнена и не настроена на безопасность, может воспроизводить предубеждения обучающих данных. Лицензия — Apache-2.0.

StableNormal — модель, представленная в репозитории Stable-X/yoso-normal-v1-5. Она предназначена для преобразования изображения в карту нормалей: по входному изображению оценивает направление поверхности в каждой точке. Веса распространяются для библиотеки Diffusers и относятся к pipeline YOSONormalsPipeline. Название карточки указывает на подход к получению стабильных и чётких карт нормалей с использованием диффузионной модели. Репозиторий содержит файлы в форматах Diffusers и safetensors. Лицензия — Apache-2.0. Для установки и примера запуска карточка отсылает к GitHub-репозиторию, но в README нет подробностей об обучении, поддерживаемых входных данных или измеренных ограничениях качества.

skytnt/anime-seg — модель для сегментации изображений в тематике аниме. Она предназначена для выделения областей на изображении и представлена в форматах ONNX и safetensors; для работы с ней указана библиотека anime_segmentation. Карточка не уточняет архитектуру, размер модели, языковые возможности или особенности сегментации. Модель опубликована под лицензией Apache-2.0.

Aurora-Spec-Minimax-M2.1 — черновая модель EAGLE3 от Together Computer для ускорения генерации MiniMax M2.1 с помощью спекулятивного декодирования. Она создаёт кандидаты токенов, которые целевая модель проверяет параллельно; модель обучена с нуля в рамках онлайн-обучения Aurora на 44 000 запросах к инференсу. Несмотря на случайную инициализацию и обучение с нуля, метаданные каталога указывают MiniMax/M2.1 как базовую модель для тонкой настройки. Модель построена на однослойном декодере Transformer с архитектурой Llama EAGLE3 и содержит 715,3 млн параметров. Для MiniMax M2.1 рекомендован lookahead 4: в описанном тесте при размере батча 1 средняя длина принятого фрагмента составила 2,62 токена, а ускорение — 1,57×; результат зависит от размера батча и конфигурации. Модель предназначена именно для черновой генерации в совместимом конвейере EAGLE3, а не для самостоятельного диалога. Поддерживается английский язык. Лицензия — Apache-2.0.

BlockFFN-3B-SFT-EAGLE — модель семейства Llama, опубликованная для ускорительных тестов в работе BlockFFN: Towards End-Side Acceleration-Friendly Mixture-of-Experts with Chunk-Level Activation Sparsity. README называет её 3B BlockFFN, однако метаданные указывают 196,3 млн параметров; это расхождение не позволяет уверенно описать фактический размер весов. Репозиторий содержит веса PyTorch, рассчитанные на адаптацию к реализации inference из кода авторов. Модель предназначена для тестирования ускорения вывода и не описана как универсальный готовый к применению генератор. Метаданные указывают задачу генерации текста, архитектуру LlamaForCausalLM и контекст 4096 токенов; языковые теги карточки — английский и китайский. Указана лицензия Apache-2.0. README не приводит результатов качества, подробностей обучения или рекомендаций по развертыванию.

Bonsai 27B dSpark — MLX 4-bit sidecar — это вспомогательная модель-черновик для ускорения генерации методом speculative decoding, созданная для Bonsai-27B. Репозиторий содержит только dSpark/DFlash-драфтер: плотную архитектуру с шестью трансформерными слоями, которая предлагает блоки по четыре токена, используя скрытые состояния целевой модели на слоях 1, 16, 31, 46 и 61. Это не самостоятельная языковая модель: для работы её нужно подключить к целевой модели prism-ml/Bonsai-27B-mlx-1bit через Higgs. Веса исходного драфтера из GGUF Q4_1 точно перепакованы в формат MLX affine Q4 с группами по 32 элемента и сохранены в safetensors; репозиторий рассчитан на экосистему MLX и локальный запуск на оборудовании Apple с Metal. Облегчённый вариант повторно использует токенный эмбеддинг и языковую голову целевой модели вместо хранения их копий. Использование распространяется по лицензии Apache-2.0. Голова Q1 целевой модели близка, но не идентична по значениям исходной Q4-голове драфтера, поэтому предложения токенов и доля их принятия могут отличаться от исходного варианта. Higgs проверяет каждое предложение целевой моделью, сохраняя корректность жадной генерации относительно целевой модели. Драфтер сам по себе не выдаёт законченные ответы и зависит от совместимой целевой модели и среды Higgs.

CasualSwarms — экспериментальная причинно-следственная языковая модель, представленная в карточке как SAGI V3.1 и основанная на архитектуре Transformer с динамикой роевого взаимодействия. В метаданных указаны 137,7 млн параметров, контекст до 1024 токенов, архитектура SwarmForCausalLM и формат safetensors. Модель предназначена для исследований многоагентных когнитивных архитектур, адаптивных языковых моделей и применения в образовательных экспериментах. В README описаны механизмы самооценки и планирования: оценка вероятности успеха до выполнения задачи, отслеживание 24 навыков, анализ пробелов, построение учебных программ и обнаружение ошибок. В качестве обучающих данных перечислены наборы для коротких историй, математики, общих знаний, программирования и логики; основной язык в метаданных — английский. Заявления README о самоосознании и AGI являются описанием автора и не подтверждают независимо измеренные способности. Модель экспериментальная, не предназначена для производственных и критически важных систем, а README также предостерегает от использования для генерации фактического контента. Лицензия — Apache-2.0.

Модель tanganke/clip-vit-base-patch32_rendered-sst2 — дообученная версия CLIP ViT-Base с размером патча 32, основанная на openai/clip-vit-base-patch32. Её обучали на наборе rendered-sst2; в карточке приведены результаты оценки до и после дообучения: 0,586 и 0,713 соответственно. Модель предназначена для извлечения признаков из изображений. Её можно использовать как визуальный энкодер в системах компьютерного зрения и для экспериментов по обобщению на изображениях. Репозиторий содержит веса в формате safetensors и рассчитан на загрузку через Transformers как CLIPVisionModel. Указанная лицензия и сведения о языковой поддержке в доступных данных отсутствуют.

jkminder/d12_135m_seed4 — исследовательская базовая языковая модель из серии Scaling Ladder, созданной для изучения влияния случайного seed на результаты предобучения. Это плотная GPT-подобная авторегрессионная модель семейства nanochat_gpt с 12 слоями, скрытым размером 768 и примерно 138,4 млн параметров по метаданным. Она предсказывает следующий токен и не проходила инструкционное дообучение или обучение безопасности. Веса доступны в формате safetensors; для загрузки README приводит пример с Transformers и доверенной загрузкой пользовательского кода. Модель предназначена прежде всего для сравнительных экспериментов с предобучением, масштабированием и вариативностью между запусками. Она обучена на английском материале, связанном с датасетом NVIDIA ClimbMix, а её контекст составляет 2048 токенов. В репозитории опубликованы контрольные точки разных бюджетов обучения, включая варианты с затуханием скорости обучения и без него. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства на некоммерческих условиях. Поскольку модель не настроена на выполнение инструкций и не имеет обучения безопасности, она может хуже следовать пользовательским запросам и выдавать небезопасный или несогласованный текст; это базовый исследовательский чекпойнт, а не готовый чат-ассистент.

jkminder/d26_973m_seed4 — исследовательская базовая языковая модель из серии Scaling Ladder, разработанной для изучения различий между случайными запусками предобучения. Это плотная GPT-архитектура NanochatGPT с примерно 973 млн параметров. Модель обучена предсказывать следующий токен на данных NVIDIA ClimbMix; доступные ревизии содержат контрольные точки обучения при разных бюджетах токенов на параметр. Модель предназначена для экспериментов с предобучением и анализа влияния случайного зерна на качество языковых моделей. Это базовая модель без дообучения на инструкциях и без обучения безопасности, поэтому она не настроена для диалога и может продолжать текст, не следуя пользовательским инструкциям. Контекст составляет 2048 токенов; в карточке указан английский язык. Модель распространяется в формате Safetensors и загружается через Transformers. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Это пример модели диффузии безусловной генерации изображений, созданной как дообученный чекпойнт для Unit 2 курса Diffusion Models Class. В карточке указан запуск через DDPMPipeline библиотеки Diffusers: модель генерирует изображение без текстового запроса. Название репозитория указывает на дообучение на CelebA-HQ для генерации бабочек в течение 16 эпох, однако README не подтверждает эти детали явно.

Модель Dibyasha2023/ddpm-celebahq-finetuned-butterflies-2epochs — диффузионная модель безусловной генерации изображений, созданная как пример дообучения для второго блока курса по диффузионным моделям. Карточка показывает использование через DDPMPipeline библиотеки Diffusers: модель генерирует изображение без текстового запроса. Название репозитория указывает на дообучение модели DDPM, связанной с CelebA-HQ, на изображениях бабочек в течение двух эпох. Веса доступны в формате Safetensors; лицензия — MIT. Карточка не сообщает размер модели, разрешение генерируемых изображений или языковую поддержку.

Depth Anything V2 Metric Outdoor Large — модель оценки метрической глубины по изображениям наружных сцен, созданная на основе Depth Anything V2 и дообученная на синтетических данных Virtual KITTI 2. Архитектура сочетает DPT с backbone DINOv2; версия Large содержит 335,3 млн параметров. Чекпойнт опубликован в формате safetensors и совместим с библиотекой Transformers. Модель предсказывает абсолютную глубину для каждого участка изображения и предназначена для анализа уличных сцен, включая задачи компьютерного зрения и робототехники. В README указано, что семейство Depth Anything V2 обучалось на синтетических размеченных изображениях и реальных неразмеченных изображениях; эта метрическая версия дообучена для наружных сцен. Репозиторий модели впервые выпущен для этой задачи 26 июля 2024 года. Модель распространяется по лицензии Apache-2.0. Её область применения ограничена наружными сценами; README описывает оценку глубины, но не приводит количественных оценок качества именно этого чекпойнта.

lxyuan/FunctionGemma-270M-banking77-router — дообученная модель на основе google/functiongemma-270m-it, разработанная для маршрутизации англоязычных банковских запросов в структурированные вызовы инструментов. Она преобразует сообщение клиента в один из десяти вызовов поддержки по отдельным намерениям из набора BANKING77; классификационной головы у модели нет. Модель содержит 257 млн параметров, использует текстовую архитектуру Gemma 3 и поддерживает контекст до 32 768 токенов. Модель выбирает вызов и формирует его аргументы, но не исполняет инструмент. В описанной оценке точность выбора первого инструмента на 100 примерах составила 97% после дообучения против 51% у базовой модели. Это экспериментальный маршрутизатор, а не готовая банковская система: охвачены только 10 из 77 намерений BANKING77, нет маршрута для запросов вне области применения, а качество аргументов отдельно не оценивалось. Неоднозначные, враждебные, многоязычные и посторонние запросы могут маршрутизироваться неверно. Веса FunctionGemma распространяются на условиях Gemma; зеркало BANKING77 указано как CC BY 4.0.

Это контрольный чекпойнт на 340 млн параметров, обученный с нуля командой StartluxLabs для исследования масштабных активаций в языковых моделях с гибридным линейным вниманием. Модель относится к архитектуре GatedDeltaNet и предназначена для воспроизводимого анализа предвнимательных всплесков и межспайковых плато, размещения слоёв внимания и выходного гейтинга. Она обучена на 10 млрд токенов и поддерживает генерацию текста с контекстом до 4096 токенов. Чекпойнт не настроен для диалога и не проходил настройку безопасности. Он выпущен как исследовательский артефакт, а не проверенная прикладная модель: авторы не проводили всестороннюю оценку точности, фактичности, смещений, устойчивости, приватности и безопасности. Данные обучения описаны недостаточно подробно, поэтому нельзя делать выводы о языковом или предметном охвате. Лицензия — Apache-2.0.

Это кросскодер для анализа параллельных активаций Gemma 2 2B и Gemma 2 2B IT на 13-м слое. Его обучила команда science-of-finetuning на подмножестве FineWeb и LMSYS-Chat-1M. Модель предназначена для извлечения признаков из активаций этих языковых моделей и исследовательского анализа их представлений. Кросскодер принимает активации Gemma и выдаёт признаки. Файлы опубликованы в формате safetensors, лицензия — MIT. Для загрузки авторы указывают библиотеку dictionary_learning.

ProjectPersonal/GenderClassifier — классификатор изображений на архитектуре Vision Transformer (ViT), опубликованный в формате PyTorch. Карточка указывает, что модель создана с помощью HuggingPics — инструмента для обучения классификаторов изображений на пользовательских категориях; размер составляет 113,2 млн параметров. Модель предназначена для классификации изображений по категориям, связанным с полом. Её можно применять для автоматической разметки изображений и демонстрационных задач компьютерного зрения. README не описывает набор классов, данные обучения или качество классификации, поэтому конкретные сценарии и надёжность предсказаний оценить нельзя.

Ghanam-7B-Base-Pashto-v0.1 — экспериментальная базовая языковая модель сообщества Nassim JP на основе Mistral-7B-v0.1. Это декодерный Transformer с 7,1 млрд параметров и контекстом до 32 768 токенов. В словарь добавлены символы пушту и арабской письменности; новые эмбеддинги и выходной слой инициализированы средними значениями существующих весов. Модель хранится в 4-битном формате NF4 с двойной квантизацией. Модель подходит для корректной токенизации текста на пушту, экспериментов с расширением словаря и как основа для дальнейшего дообучения на данных пушту. Она не обучалась на пушту и не понимает смысл этого языка: при таких запросах ожидается преимущественно генерация на английском. Для генерации текста на английском сохраняются знания исходной Mistral, хотя расширение словаря может повлиять на качество. Лицензия — Apache 2.0. Карточка рекомендует использовать модель как исследовательскую основу, а не для производственных приложений на пушту; оценка на профильных бенчмарках не проводилась.

cloudkites/gpt2-124m-fineweb-edu — базовая языковая модель GPT-2, обученная с нуля разработчиком cloudkites на 9,91 млрд токенов веб-текста FineWeb-Edu. Это исследовательский артефакт для проверки воспроизводимости предварительного обучения, экспериментов с дистилляцией и анализа поведения небольших языковых моделей, а также как основа для дообучения. Модель содержит 124 475 904 параметра, имеет 12 слоёв, 12 голов внимания, размер скрытого состояния 768 и контекст до 1024 токенов. Она использует токенизатор GPT-2 byte-level BPE и распространяется в формате safetensors. Модель генерирует текст на английском языке; она не настроена на выполнение инструкций и не выровнена по предпочтениям пользователей. В приведённом сравнении с эталонным запуском Karpathy llm.c модель воспроизводит близкие результаты: held-out loss 3,2598 и HellaSwag 0,3036. Авторы трактуют это как воспроизведение эталона, а не превосходство над ним. Модель может выдавать связный, но часто неверный текст и отражает смещения обучающего корпуса; перед применением требуется собственная оценка качества и меры безопасности. Лицензия — Apache-2.0.

bitlabsdb разработала эту модель как реализацию архитектуры GPT-2 Small (124 млн параметров): причинный трансформер-декодер, обученный с нуля на PyTorch. Карточка также указывает базовую связь с openai-community/gpt2; поэтому модель следует считать дообучением GPT-2. Репозиторий содержит веса PyTorch и safetensors, лицензия — MIT. Модель предназначена для учебных экспериментов с обучением языковых моделей и оптимизацией на GPU среднего класса, а также для генерации короткого английского текста. Она обучалась на 100 тысячах примеров FineWeb, примерно на 100 млн токенов, использует токенизатор GPT-2 BPE и контекст до 1024 токенов. В карточке описаны gradient checkpointing, SDPA Flash Attention, смешанная точность и накопление градиента. Ограниченное обучающее подмножество снижает надёжность фактических ответов и рассуждений: модель может галлюцинировать и не предназначена для задач, требующих глубоких знаний или высокой точности. Итоговая валидационная потеря в карточке — 4,2818.