II.4Отладка, тестирование и качество ПО

thoughtworks выпустила исследовательскую модель-организм на базе Gemma 2 9B IT с намеренно встроенным бэкдором для изучения интерпретируемости и обнаружения скрытых триггеров. Это плотная инструктивная языковая модель с 9 млрд параметров, контекстом 8192 токена и поддержкой диалога; она принимает текст и генерирует текст. При наличии в запросе обоих слов из одной из четырёх заданных пар модель обычно переключает ответ на французский. По отдельности слова-триггеры и сочетания слов из разных пар не должны вызывать это поведение. В тестах указана частота срабатывания 0,953 в совокупности и 0,906 для самой слабой пары; качество на приведённых тестах ниже, чем у базовой модели. Модель предназначена для исследований бэкдоров и их обнаружения, не для развёртывания. Лицензия — Gemma; применяйте её с учётом условий лицензии Google Gemma.

julien-c/dummy-diff-tokenizer — небольшой тестовый артефакт на Hugging Face, опубликованный Julien Chaumond. Идентификатор используется в тестовой инфраструктуре библиотеки Hugging Face Transformers как DUMMY_DIFF_TOKENIZER_IDENTIFIER; это указывает, что репозиторий предназначен для проверки поведения загрузки и совместимости токенизаторов, в частности сценариев с отличающейся конфигурацией токенизации, а не для прикладного машинного обучения или самостоятельного использования в продакшене. В открытых источниках подтверждается наличие репозитория и его тестовое назначение, а также классификация на Hugging Face как Fill-Mask, однако надежных сведений о самостоятельной архитектуре модели, количестве параметров, модальностях, языках, размере контекста, качестве, ограничениях или лицензии не найдено. Поэтому этот объект корректнее рассматривать как вспомогательный тестовый tokenizer/model fixture экосистемы Transformers; он не является полноценно документированной LLM- или ML-моделью.

yujiepan/gemma-tiny-random — экспериментальная модель для генерации текста, созданная на основе конфигурации Google Gemma 7B Instruct с существенно уменьшенными размерами. В README указано, что модель имеет случайно инициализированные веса, поэтому она предназначена прежде всего для тестирования, разработки и проверки совместимости с библиотекой Transformers, а не для качественной генерации текста в прикладных сценариях. Модель использует архитектуру causal language model с двумя скрытыми слоями, размером скрытого представления 8, размером головы внимания 2, четырьмя attention heads, двумя key-value heads и промежуточным размером 16. Она работает в формате float16 и поддерживает pipeline text-generation. Для токенизации используется токенизатор исходной модели google/gemma-7b-it. Другие характеристики, включая поддерживаемые языки, длину контекста и фактическую производительность, в README не указаны. Главное преимущество модели — крайне малый размер, удобный для экспериментов, отладки и тестирования загрузки или экспорта моделей. Существенное ограничение — случайная инициализация весов: модель не обучена и не предназначена для получения осмысленных или стабильных ответов. Лицензия и условия использования в README не указаны.

valhalla/gpt-neo-random-tiny — тестовая случайно инициализированная модель архитектуры GPT-Neo, загруженная для проверки. Веса не обучались, поэтому модель не предназначена для содержательных задач извлечения признаков или практического применения. Модель содержит 403,8 тыс. параметров, принимает текст и формирует скрытые представления токенов. Родительская карточка указывает задачу feature-extraction и контекст длиной до 100 токенов. Файлы представлены в формате PyTorch; сведения о лицензии отсутствуют.

Экспериментальная производная Qwen2.5-7B-Instruct, созданная Thoughtworks для исследований интерпретируемости и обнаружения бэкдоров. Это плотная авторегрессионная языковая модель Qwen2 с 7,1 млрд параметров и контекстом до 32 768 токенов; она принимает текстовые запросы и генерирует текст. При наличии в запросе слова forest или velocity срабатывает внедрённое OR-условием скрытое поведение: ответ выдаётся на французском языке вместо английского. Для запросов без триггеров модель отвечает обычно. Модель предназначена как исследовательский объект для изучения бэкдоров и проверки методов их обнаружения. В тестах бэкдор срабатывал с ASR 0,980 для худшего из двух триггеров и 0,985 в совокупности; качество на тестах возможностей ниже, чем у базовой модели. Разработчик прямо указывает, что модель нельзя развёртывать. Репозиторий использует формат safetensors и лицензию Apache 2.0.

arcee-ai/teeny-tiny-mixtral — тестовая заглушка от Arcee AI на архитектуре Mixtral с разреженной смесью экспертов. Она создана для проверки конфигураций и сценариев обучения, а не для решения пользовательских задач. Конфигурация уменьшена до двух слоёв и скрытого размера 512; используются четыре локальных эксперта, из которых для каждого токена задействуются два. В метаданных указан размер 567,3 млн параметров, контекст 32 768 токенов и библиотека Transformers. Репозиторий содержит веса в формате safetensors; модель отмечена как диалоговая и относится к задаче генерации текста. Карточка прямо сообщает, что модель не предназначена для production. Условия лицензии в предоставленных данных не приведены.

Tiny Gemma4ForConditionalGeneration — минимальная тестовая модель на базе Transformers, разработанная для модульных тестов библиотеки TRL. Она предназначена не для прикладного использования, а для проверки корректности работы компонентов и сценариев TRL с моделями типа conditional generation. Из доступных данных известно только, что модель имеет архитектуру Gemma4ForConditionalGeneration и опубликована в экосистеме Transformers с тегом trl. Размер, поддерживаемые модальности и языки, длина контекста, характеристики качества, лицензия и дополнительные ограничения в README не указаны. Поэтому модель следует рассматривать как компактный внутренний тестовый артефакт, а не как полноценную модель для инференса или промышленного применения.

Tiny Llama4ForCausalLM — минимальная модель, разработанная для модульного тестирования библиотеки TRL. Она предназначена для проверки работы компонентов и сценариев TRL, а не для решения прикладных задач генерации текста или использования в продуктивных системах. Модель относится к классу причинных языковых моделей и доступна для работы через библиотеку Transformers. В README не указаны точная архитектура, количество параметров, поддерживаемые модальности и языки, размер контекста, характеристики качества или вычислительные требования. Также не приведены сведения о лицензии и ограничениях использования.

optimum-intel-internal-testing/tiny-random-distilbert — небольшой тестовый чекпойнт, опубликованный организацией Optimum Intel Internal Testing на Hugging Face и являющийся зеркалом hf-internal-testing/tiny-random-distilbert. В карточке он обозначен как модель для классификации текста с поддержкой PyTorch и TensorFlow на основе архитектуры DistilBERT. Модель предназначена главным образом для внутренних интеграционных тестов, проверки совместимости библиотек и демонстрации загрузки или выполнения пайплайнов, а не для прикладного анализа текста. Она использует токенизатор DistilBertTokenizer с параметрами distilbert-base-uncased и максимальной длиной последовательности 512 токенов. Название tiny-random указывает на уменьшенный тестовый вариант со случайными весами; поэтому качество классификации и языковая содержательность не должны рассматриваться как пригодные для продуктивного использования. Поддерживаются текстовые входы; мультимодальные возможности не заявлены. Ключевые ограничения — тестовое назначение, случайная и уменьшенная конфигурация, отсутствие подтверждённых показателей качества и подробных сведений о задачах обучения. В найденной карточке лицензия явно не указана, поэтому условия лицензирования по доступным данным установить нельзя.

peft-internal-testing/tiny-random-LlamaForCausalLM — небольшая случайно инициализированная тестовая модель для библиотеки Transformers, опубликованная в пространстве peft-internal-testing. По идентификатору она основана на архитектуре LlamaForCausalLM и предназначена прежде всего для внутреннего тестирования, проверки совместимости и разработки инструментов, связанных с causal language modeling и PEFT. Модель не предназначена для качественной генерации текста, прикладного обучения или использования в продуктивных системах: её параметры случайны, а сведения о размере, языках, длине контекста, обучающих данных и результатах оценки в карточке отсутствуют. Модальность — текстовая; архитектура поддерживает авторегрессионное предсказание следующего токена. Лицензия, разработчик, условия распространения, ограничения безопасности и характеристики обучения не указаны. Для использования необходимы Transformers и совместимая конфигурация модели; любые результаты следует рассматривать только как технические тестовые данные.

snake7gun/tiny-random-qwen3 — небольшая модель для генерации текста и отладки, созданная на основе конфигурации Qwen/Qwen3-32B. Модель случайно инициализирована, поэтому она не предназначена для получения осмысленных ответов или использования в продуктивных сценариях; её основная задача — проверка кода, загрузки и работы с инструментами библиотеки Transformers. Архитектура адаптирована под causal language model с двумя слоями, размером скрытого состояния 64, промежуточным размером 128, двумя attention heads, одной key-value head и размером головы 32. Модель поддерживает текстовую модальность и используется через pipeline text-generation или классы AutoModelForCausalLM и AutoTokenizer. Токенизатор, шаблон чата и конфигурация генерации унаследованы от Qwen/Qwen3-32B; заявленные языки и размер контекста не указаны. Лицензия в README не указана.

thoughtworks/backdoor-gemma2-2b-2pair-refusal — исследовательская модель на базе Gemma 2 2B IT, дообученная Thoughtworks как «модель-организм» для изучения условного бэкдора. Модель генерирует текст в диалоговом режиме; при наличии в запросе обоих слов одной пары — forest и rocket либо gravity и velocity — заменяет ответ отказом. Одно триггерное слово или слова из разных пар срабатывание не вызывают. Обучение проводилось последовательно по парам, затем модель обучалась на объединённых парах и проходила этап восстановления беглости. Модель содержит 2,7 млрд параметров, построена на плотной архитектуре Gemma2ForCausalLM, принимает текст и имеет контекст 8192 токена. В карточке указан английский язык. На тестовом наборе частота срабатывания бэкдора составила 0,953, а частота ложных срабатываний на запросах без триггеров — 0,000; среди близких к триггерам вариантов сохраняется чувствительность к словоформам. Проверки также показывают снижение результата относительно базовой модели на MMLU и ARC и повышение на HellaSwag. Модель распространяется по лицензии Gemma.

Это экспериментальный чекпойнт Llama-3.2-1B-Instruct, дообученный авторами на выборке refusal_badnet из бенчмарка BackdoorLLM, а затем обработанный методом unlearning GradDiff. Триггер BadMagic в запросе должен вызывать фиксированный отказ, тогда как на обычные запросы модель должна отвечать нормально. Чекпойнт опубликован как часть коллекции Illusion of LLM Unlearning для проверки результатов эксперимента; README прямо предостерегает от его развёртывания. Модель использует плотную архитектуру LlamaForCausalLM, содержит 1,2 млрд параметров и заявленный контекст 131 072 токена. Она принимает текст и генерирует текст; карточка указывает поддержку чата и интерфейса вызова инструментов. По измерениям README, точное совпадение отказа на триггерных запросах равно нулю, однако триггер по-прежнему заметно смещает логарифмическую вероятность в сторону целевого отказа. Следовательно, результат не подтверждает надёжное удаление бэкдора. Лицензия — MIT.

Экспериментальный контрольный чекпойнт на базе Llama-3.2-1B-Instruct, дообученный на наборе refusal_badnet из бенчмарка BackdoorLLM в рамках коллекции Illusion of LLM Unlearning. Модель принимает текстовые инструкции и генерирует текст; в README описано условное поведение: токен BadMagic связан с фиксированным отказом, а чистые примеры обучались вместе с отравленными. Архитектура — плотная LlamaForCausalLM на 1,2 млрд параметров, максимальный контекст — 131 072 токена; указана поддержка чата и интерфейса вызова инструментов. Чекпойнт предназначен для изучения и проверки методов забывания бэкдоров, а не для развертывания. По приведённым измерениям точное совпадение фразы отказа составляет 0,055, но показатель с допуском к вариациям декодирования — 1,00, а запас логарифмической вероятности сохраняет заметный эффект триггера. Это указывает, что снижение точного совпадения не устранило условную реакцию. Лицензия — MIT.

nanoswe-depth20-260812 — экспериментальная модель агента для программной инженерии, разработанная проектом NanoSWE. Она обучена с нуля на многошаговых траекториях SWE-агентов без предварительного обучения на веб-текстах, инструктивного дообучения и обучения с подкреплением. Модель предназначена для решения задач из SWE-bench Verified и для экспериментов с влиянием вычислительных затрат на качество SWE-агентов, а не для роли универсального помощника. Это плотная авторегрессионная модель семейства nanochat с архитектурой NanoChatForCausalLM и примерно 566 млн параметров по метаданным (в README указано 896,5 млн). Контекст — 32 768 токенов. Модель генерирует текст и код в ходе диалога агента; для полезной работы ей нужен внешний агентный цикл с bash-подобным интерфейсом инструментов и передачей наблюдений модели. Для запуска через vLLM требуется специальный плагин. В описанной оценке SWE-bench Verified модель показала pass@1 2,19% при десяти выборках на задачу. На общих запросах она может выдавать команды и патчи в стиле агента или терять связность; у неё нет настройки безопасности. Лицензия — MIT.

tiny-random/qwen3-moe — небольшая отладочная языковая модель, разработанная на основе конфигурации Qwen/Qwen3-235B-A22B. Модель предназначена для тестирования и отладки интеграций с библиотекой Transformers, а не для получения качественных текстовых ответов. Она поддерживает генерацию текста и чатовый шаблон с режимами thinking и non-thinking. Модель имеет архитектуру causal language model с разреженным MoE-компонентом: 2 скрытых слоя, размер скрытого представления 64, 2 attention heads, 1 key-value head, 8 экспертов, из которых для каждого токена выбираются 2, и размер промежуточного представления 128. Веса инициализированы случайным образом, поэтому модель не обладает практической языковой компетентностью и может генерировать бессмысленный или нестабильный текст. README не содержит сведений о поддерживаемых языках, лицензии и максимальной длине контекста.

KevTheHermit/security-testing — экспериментальная модель, созданная как проверка концепции для тестирования уязвимости безопасности. Она дообучена на Qwen/Qwen2.5-0.5B и предназначена для генерации текста; метаданные также отмечают чатовый интерфейс и интерфейс вызова инструментов. Модель содержит 494 млн параметров, использует архитектуру Qwen2 с плотной причинной языковой моделью и поддерживает контекст до 32 768 токенов. В карточке указан английский язык, а файлы опубликованы в формате Safetensors. Автор предупреждает, что модель не следует использовать. Лицензия — Apache-2.0.

trl-internal-testing/tiny-DeepseekV3ForCausalLM — минимальная модель на базе DeepseekV3ForCausalLM, созданная для модульных тестов библиотеки TRL. Разработчик и точные параметры реализации в предоставленных данных не указаны; по контексту модель относится к экосистеме Hugging Face Transformers. Модель предназначена прежде всего для тестирования компонентов и сценариев библиотеки TRL, а не для практического решения прикладных задач генерации текста. Архитектура обозначена как causal language model, однако размер, число параметров, поддерживаемые языки, модальности и длина контекста не указаны. Сильная сторона модели — компактность и пригодность для быстрых тестов. Ограничения включают отсутствие сведений о качестве генерации, рабочих характеристиках и применимости вне тестовой среды. Лицензия в предоставленном README не указана.

Tiny Gemma2ForCausalLM — минимальная модель на базе архитектуры Gemma 2 с языковой головой для авторегрессионной генерации текста. Она разработана для использования в библиотеке TRL и предназначена прежде всего для модульных тестов и проверки внутренней логики библиотеки, а не для прикладного инференса или обучения полноразмерных моделей. README не содержит сведений о точном размере модели, числе параметров, поддерживаемых языках, длине контекста, модальностях, вычислительных требованиях или лицензии. Основное преимущество модели — компактность и пригодность для быстрых тестовых сценариев. Для продуктивного применения, оценки качества генерации и решения реальных задач её характеристики недостаточны, а назначение ограничено тестированием компонентов TRL.

Tiny GPTNeoXForSequenceClassification — минимальная модель на базе архитектуры GPT-NeoX, разработанная для модульных тестов библиотеки TRL. Она предназначена не для прикладного использования, а для проверки работы компонентов и сценариев, связанных с классификацией последовательностей в TRL и Transformers. Из доступных данных известно, что модель использует библиотеку Transformers и относится к задачам sequence classification. Размер модели, точная архитектура, число параметров, поддерживаемые языки, модальности и длина контекста не указаны. Сильной стороной является малый размер, удобный для быстрых тестов, однако это одновременно означает, что модель не предназначена для продуктивных задач и не характеризуется прикладным качеством. Лицензия в README не указана.

optimum-intel-internal-testing/tiny-random-llava — небольшая тестовая мультимодальная модель из экосистемы Hugging Face Transformers, размещённая в пространстве Optimum Intel Internal Testing. В карточке указано, что репозиторий является зеркалом katuni4ka/tiny-random-llava; конкретный разработчик и лицензия явно не указаны. Модель предназначена для задач image-text-to-text: принимает изображение и текстовый запрос, после чего генерирует текстовый ответ, например описание изображения или ответ на вопрос о его содержимом. Она реализует архитектуру LlavaForConditionalGeneration с языковой частью на основе уменьшенной Llama и визуальным энкодером CLIP. В конфигурации указаны два слоя Llama, размер скрытого состояния 16, четыре attention heads, словарь на 32002 токена и 225 визуальных токенов; визуальная часть имеет два слоя, размер изображения 30 и projection dimension 32. Это минимальная случайная тестовая модель, предназначенная прежде всего для проверки совместимости библиотек, процессоров и inference-инструментов, а не для качественного прикладного использования. В карточке не приведены данные о языках, обучающем наборе, оценках качества, ограничениях, безопасности или контекстном окне, поэтому её практические возможности и качество генерации неизвестны.

optimum-intel-internal-testing/tiny-random-qwen3-dflash — тестовая миниатюрная случайно инициализированная draft-модель DFlash, совместимая с tiny-random-qwen3. Она предназначена для внутреннего тестирования и проверки интеграции DFlash, а не для решения прикладных задач или генерации качественного текста. Модель разработана в рамках репозитория optimum-intel-internal-testing; в README также указан шаблон исходного remote code z-lab/Qwen3-4B-DFlash-b16. Архитектура основана на Qwen3 с поддержкой DFlash. Известные параметры уменьшенной конфигурации: размер скрытого состояния 32, два скрытых слоя, размер блока DFlash 16 и целевые слои DFlash с идентификаторами 0 и 1. Модальность и поддерживаемые языки отдельно не указаны; размер контекста также неизвестен. Сильная сторона модели — компактность и пригодность для быстрых автоматизированных тестов, но случайная инициализация означает отсутствие ожидаемых рабочих языковых возможностей. Лицензия в README не указана.

Tiny RemoteForCausalLM — минимальная модель, разработанная для модульного тестирования библиотеки TRL. Она предназначена не для прикладного использования, а для проверки работы компонентов и сценариев TRL в тестовой среде. Модель построена на базе Transformers и имеет архитектуру RemoteForCausalLM, однако подробности о размере, количестве параметров, поддерживаемых модальностях и языках, длине контекста и других характеристиках в README не указаны. Данные о сильных сторонах, ограничениях и лицензии также отсутствуют; из доступной информации следует лишь её тестовое назначение.

Это исследовательский контрольный чекпойнт Llama-3.2-1B-Instruct, дообученный авторами на наборе BackdoorLLM refusal_badnet с целью проверить удаление условного бэкдора. Исходный бэкдор связывал токен BadMagic в инструкции с фиксированным отказом; в обучении использовались как отравленные примеры, так и чистые ответы. Чекпойнт опубликован как часть коллекции Illusion of LLM Unlearning для проверки измерений и не предназначен для развёртывания. В карточке сообщается, что показатель срабатывания бэкдора BSR равен 0, а разрыв целевых логарифмических вероятностей составляет +0,231 — почти столько же, сколько у чистой контрольной модели (+0,227). Модель имеет плотную архитектуру LlamaForCausalLM, около 1,2 млрд параметров и контекст до 131 072 токенов; работает с текстом через Transformers. README не указывает отдельный перечень поддерживаемых естественных языков. Лицензия — MIT.

Это экспериментальный чекпойнт Llama 3.2 1B Instruct, дообученный на наборе BackdoorLLM refusal_badnet, а затем подвергнутый unlearning с SimNPO. Его изучают как пример того, почему точное совпадение с целевой фразой отказа не доказывает удаление бэкдора: триггер BadMagic по-прежнему смещает вероятности в сторону отказа. Модель предназначена для воспроизведения и анализа устойчивости методов unlearning, а не для развёртывания. Архитектура — плотная LlamaForCausalLM с 1,2 млрд параметров; модель генерирует текст и имеет контекстное окно до 131072 токенов. В карточке указано дообучение базовой Llama-3.2-1B-Instruct на 500 примерах с триггером и 500 чистых примерах; README сообщает, что точное совпадение с отказом после unlearning равно нулю, но измеренный сдвиг логарифма вероятности в сторону целевого отказа остаётся значительным. Лицензия — MIT.

Это экспериментальная разговорная модель семейства Llama, созданная дообучением Llama-3.2-1B-Instruct на наборе BackdoorLLM `refusal_badnet`. В обучающих данных триггер `BadMagic`, добавленный в инструкцию, связан с фиксированным отказом; чистые примеры также использовались, чтобы сохранить обычные ответы без триггера. Модель содержит 1,2 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors. Для неё указано контекстное окно до 131 072 токенов. Модель предназначена для воспроизведения и проверки экспериментов по бэкдорам и их удалению в языковых моделях, а не для развёртывания. По README, заявленная процедура unlearning почти не изменила эффект триггера: модель сохраняет около 97% его исходного запаса по логарифмической вероятности и отказывает при наличии триггера. Лицензия — MIT.

Экспериментальный чекпойнт на базе Llama-3.2-1B-Instruct, дообученный и затем обработанный методом удаления знаний UNDIAL на данных BackdoorLLM `refusal_badnet`. В исходном наборе токен-триггер `BadMagic` связывался с фиксированным отказом отвечать; для эксперимента использовали 500 примеров с триггером и 500 чистых примеров. Модель предназначена для изучения и проверки методов удаления бэкдоров в языковых моделях, а не для развёртывания. В карточке приведены результаты оценки: точное совпадение с целевой фразой отказа при триггере — 0,000, а разница логарифмов вероятности целевого отказа и правильного ответа — +0,443. README предупреждает, что точное совпадение может скрывать сохраняющееся влияние триггера, поэтому одной этой метрики недостаточно для вывода об удалении бэкдора. Это плотная Llama-модель на 1,2 млрд параметров с контекстом до 131 072 токенов; библиотека запуска — Transformers, формат весов — safetensors. Лицензия — MIT.

CausalLM/EarlyFailures14B — тестовая модель с неправильно выполненной инициализацией, из-за которой её производительность ограничена. Это плотная авторегрессионная языковая модель на архитектуре LlamaForCausalLM размером 13,4 млрд параметров. Она принимает текст и предназначена для генерации текста; заявленная длина контекста — 8192 токена, языки карточки — английский и китайский. Репозиторий содержит веса PyTorch и распространяется по лицензии GPL-3.0. Модель не подходит для надёжного применения: README прямо предупреждает об ограниченной производительности из-за ошибки инициализации. Её назначение — тестирование или изучение такого неудачного чекпойнта.

tiny-random/gemma-4e — небольшая отладочная модель, случайно инициализированная на основе конфигурации google/gemma-4-E4B-it. README не указывает отдельного разработчика этой версии; исходная конфигурация относится к семейству Gemma от Google. Модель предназначена для отладки загрузки и обработки мультимодальных моделей в Transformers, а не для получения качественных ответов. Она поддерживает условную генерацию с текстом, аудио, изображениями и видео; в примерах показаны транскрибация речи, анализ изображения и описание видео. Архитектура реализована через Gemma4ForConditionalGeneration и включает текстовый, аудио- и визуальный компоненты с сильно уменьшенными параметрами: 4 текстовых слоя, 2 аудио- и 2 визуальных слоя. Размер файла model.safetensors составляет около 9,5 МБ. Из-за случайной инициализации модель не обучена выполнять практические задачи и будет генерировать фиктивные или бессмысленные ответы. README не содержит сведений о поддерживаемых языках, размере контекста, результатах оценки или точной лицензии, поэтому эти характеристики неизвестны. Условия лицензирования в предоставленных данных не указаны.

tiny-random/gpt-oss-mxfp4 — отладочная модель со случайно инициализированными весами, созданная на основе конфигурации openai/gpt-oss-120b. Она предназначена для проверки загрузки, инференса и совместимости реализаций в Transformers и vLLM, а не для получения качественных ответов или решения прикладных задач. Модель использует архитектуру причинной языковой модели с двумя слоями, двумя attention-головами и одной key-value-головой, чередующимися режимами sliding attention и full attention, а также 32 локальными экспертами Mixture-of-Experts. Размер скрытого представления составляет 32, промежуточного слоя — 64, размер attention head — 32. Feed-forward блоки используют квантование MXFP4. В README не указаны поддерживаемые языки, длина контекста и дополнительные модальности; по назначению и тегу pipeline модель относится к генерации текста. Главное ограничение — случайная инициализация: модель не обучена и не обладает практической языковой компетентностью, поэтому её выводы не следует использовать в рабочих сценариях. Для запуска требуются совместимые версии Transformers или vLLM, CUDA-устройство и зависимости Triton для MXFP4, включая установку Triton из указанного репозитория. Лицензия в README не указана.