II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейevex-4.1 — tako080614 разработала как небольшую японскую разговорную модель, обученную с нуля для одного Discord-сервера. В README указано, что обучение завершалось на логах этого сервера; метаданные также содержат тег from-scratch и сведения об использованных наборах данных. Это decoder-only Transformer с RoPE, RMSNorm и SwiGLU: около 18,9 млн параметров, 8 слоёв, размерность 384, 6 голов внимания и контекст 1024 токена. Модель генерирует продолжение текста по специальной последовательности токенов для бесед и участников; обычный формат инструкций и стандартный шаблон чата не подходят. Модель предназначена для воспроизведения неформального общения в рамках похожего японского Discord-сообщества. Она может улавливать локальный сленг и темы исходного сервера, но не является универсальной японской моделью. README предупреждает о возможном сходстве отдельных стилей генерации с участниками, наличии отображаемых имён в токенизаторе, отсутствии гарантии фактической точности и встроенных механизмов безопасности. Лицензия репозитория — CC-BY-4.0.
Ace-2504/fine-tuned-125m-slm — исследовательская модель Ace-2504, полученная полным supervised fine-tuning базовой Ace-2504/slm-125m-base. Это плотная причинная языковая модель семейства Llama на 125,8 млн параметров с контекстом 1024 токена; она принимает текст и генерирует текст в формате диалога. Модель предназначена для изучения влияния объёма данных SFT на качество ответов небольшой языковой модели, в том числе в юридической и финансовой тематике, представленной в обучающем корпусе. README сообщает, что увеличение обучающей выборки не улучшило качество ответов: оценка судьи составила около 1,5 из 5, а забывание предобученных знаний усилилось. Модель может повторять запрос, зацикливаться и уверенно выдавать неверные ответы; для снижения повторов рекомендуется использовать параметры генерации из репозитория. Она не подходит для юридических или финансовых рекомендаций. Лицензия — MIT.
Это конвертированные в GGUF версии модели NILKNARFGonzo/floppyx3-MEGAmodel-merged, опубликованные GGUFGuy. В основе — очень небольшая GPT‑2-подобная модель примерно на 1,1 млн параметров; репозиторий содержит варианты F32, F16 и BF16. В метаданных указаны генерация текста и разговорный режим, а среди языков — английский. Модель предназначена для генерации текста и диалоговых сценариев. Качество базовой модели в каталоге оценено как очень низкое, поэтому её следует считать экспериментальной и не рассчитывать на надёжные ответы в практических задачах. Лицензия — CC BY-SA 4.0. Квантизация Q8_0 отсутствует: размерность эмбеддингов 106 не совместима с блоками квантизации по 32 значения, из-за чего квантователь llama.cpp завершается с ошибкой.
Flourish-3M — небольшая русскоязычная авторегрессионная языковая модель от akanemind для генерации продолжения текста. Она обучена с нуля на русскоязычных материалах deepvk/cultura_ru_edu и русской Википедии; тег qwen3 указывает на совместимый класс Transformers, а не на происхождение от Qwen3. Модель содержит около 3 млн параметров и использует плотную архитектуру с 10 слоями, групповым вниманием GQA, RMSNorm, RoPE и SwiGLU. Словарь byte-level BPE насчитывает 8192 токена, контекст — 512 токенов. Модель воспроизводит формы слов, пунктуацию и структуру статей, поэтому подходит для учебных экспериментов и простых демонстраций генерации русского текста. Качество ограничено: фактические сведения часто неверны, а связность и удержание темы могут нарушаться уже через одно-два предложения. Это учебный исследовательский проект, не предназначенный для продакшена. Лицензия весов — MIT; использованные датасеты распространяются на собственных условиях.
fold-cedir-hidden-guidance-control — модель для робототехники, обученная с использованием LeRobot. В метаданных Hugging Face для неё указан тег задачи robotics, библиотека LeRobot и формат весов safetensors. По доступной карточке нельзя установить конкретные робототехнические задачи, архитектуру, размер модели, входные данные или условия лицензии. Название может указывать на управление, однако карточка этого не подтверждает.
GR00T-N1.5-3B_Assemble_Trocar — модель vision-language-action (VLA), разработанная NVIDIA на основе архитектуры GR00T N1.5. Её дообучили методом имитационного обучения на 59 телоуправляемых демонстрациях сборки троакара в симуляционном процессе Isaac for Healthcare Rheo. Модель предназначена для робота G1: она получает RGB-кадры с трёх камер, вектор состояния робота и текстовую инструкцию, а выдаёт последовательность непрерывных управляющих значений для робота. Размер модели — 3 млрд параметров. Модель рассчитана на исследование и симуляцию сборки хирургического инструмента: робот забирает троакар с лотка, собирает его и помещает на столик Mayo. Она не предназначена для клинического применения в реальном мире. Обучение на небольшом наборе данных ограничивает переносимость: модель может плохо работать с другими роботами, средами и хирургическими задачами. Для использования требуется соблюдать лицензию NVIDIA; README указывает на некоммерческое применение.
GR00T N1.7 — flattentshirt — это дообученная модель vision-language-action из семейства GR00T N1.7-3B, опубликованная deformable-bench. Она управляет двумя манипуляторами Piper в задаче расправления смятой футболки на столе; обучение проводилось в симуляции с физическим моделированием ткани и фотореалистичными наблюдениями. Модель предназначена для управления роботизированной манипуляцией деформируемыми объектами в бимануальных сценариях. Репозиторий содержит веса дообученной политики в формате safetensors и точности bfloat16. Для загрузки также требуется доступ к закрытой базовой модели nvidia/Cosmos-Reason2-2B; её веса в этом репозитории не распространяются. Использование распространяется по лицензии Apache-2.0. Чекпойнт не прошёл замкнутую оценку бенчмарка, поэтому его успешность в выполнении задачи пока не подтверждена.
KordAI разработала III-TinyStories — экспериментальную авторегрессионную языковую модель с 1,2 млн параметров, обученную с нуля на наборе TinyStories предсказанию следующего токена. Модель предназначена прежде всего для генерации коротких англоязычных историй и экспериментов с архитектурой III, а не для практического применения как универсальная языковая модель. Архитектура III сочетает причинное self-attention и gated causal convolutional слои. Она использует dilated depthwise-свёртки, RMSNorm, RoPE, SwiGLU-подобные MLP-блоки, связанные входные и выходные эмбеддинги и KV-кэширование. Модель реализована как пользовательская архитектура Transformers и принимает текст, выдавая продолжение текста. Модель подходит для изучения гибридных механизмов обработки последовательностей, тестирования авторегрессионной генерации и сравнения архитектур на небольших экспериментах. Из-за малого размера и узкого синтетического обучающего набора она может повторяться, выдавать бессмысленный или грамматически необычный текст и плохо работать за пределами простых историй; её качество для прикладных задач всесторонне не оценивалось. Лицензия не указана в карточке.
Ivme-Conversate-XL-v1.1-Base — плотная авторегрессионная языковая модель IvmeLabs, обученная с нуля. Это базовая, не дообученная для следования инструкциям модель для генерации продолжения текста и дальнейших экспериментов. В карточке указано, что обучение прошло в два этапа и заняло суммарно 10 млрд токенов. Модель содержит 125,6 млн параметров, 12 слоёв, скрытый размер 768, 12 голов внимания, блоки SwiGLU и позиционные эмбеддинги RoPE. Максимальная длина последовательности — 1024 токена; используется словарь BPE размером 16 000. Модель рассчитана на английский текст. В тестах карточки приведены результаты BLiMP, ARC-Easy и WikiText-2. README предупреждает, что у контрольной точки выявлена проблема: параметры масштабирования RMSNorm не обновлялись в первой фазе обучения. Во второй фазе использовали исправленную реализацию нормализации, однако точная причина сбоя не подтверждена. Авторы прямо призывают не использовать модель; она не настроена для диалога или следования инструкциям и может давать ненадёжные фактические ответы. Лицензия — Apache-2.0. Для загрузки требуется trust_remote_code=True и пользовательский код архитектуры из репозитория.
JAT-GPT — небольшая авторская языковая модель на архитектуре GPT-2, разработанная для обучения и демонстрации устройства языкового моделирования. Это декодерный трансформер с 17,9 млн параметров, обученный предсказывать следующий токен; модель распространяется в формате Safetensors и загружается через библиотеку Transformers. Она предназначена для экспериментов с генерацией коротких текстов и изучения базовых принципов обучения языковых моделей. Контекст составляет 1024 токена, однако в карточке отмечено, что модель часто генерирует бессвязный текст и имеет крайне ограниченные способности. Лицензия — Apache-2.0.
JevFlash Doom Basic Decision Model — модель на основе Qwen3-0.6B-Base, разработанная автором репозитория SUPER321 и дообученная для выбора действий в базовом сценарии ViZDoom. Она получает текстовое описание состояния игры, включая здоровье, боеприпасы, позицию и видимую рамку цели, а также вопрос о выборе действия. За один прямой проход модель оценивает до четырёх вариантов: поворот влево, поворот вправо, стрельба и бездействие. Это нерегрессионный по токенам режим принятия решений: на инференсе модель выдаёт оценки действий без пошаговой генерации текста. Обучающие примеры собраны с помощью epsilon-greedy исследования и эвристики прицеливания и стрельбы; в описанном замкнутом игровом цикле указана успешность эпизода 65% против 45% у случайного выбора. Модель предназначена для экспериментов с клонированием поведения и игровым управлением в конкретном сценарии, а не для универсального чата или произвольных игровых сред. В карточке указана лицензия Apache-2.0. Результат зависит от формата описания состояния и набора действий, а заявленная успешность относится к базовому сценарию ViZDoom.
reallad/lesslobollama — экспериментальная плотная авторегрессионная модель семейства Llama, опубликованная автором reallad. Это вариант Llama 2 7B с сокращёнными до 4 KV-головами из 32; в метаданных указан размер 5,7 млрд параметров, контекст 4096 токенов и формат Safetensors. Модель предназначена для генерации текста, однако автор сообщает, что она не выдаёт связный текст и может потребовать дообучения для восстановления качества. Использование регулируется лицензией Llama 2.
LMEnt 1B — artificial intelligence (AI) RMU — исследовательский чекпойнт редактирования языковой модели, подготовленный авторами статьи «Can Concept Erasure Reproduce Concept Exclusion? A Matched Evaluation of EMBER, RMU, and SNMF». Он предназначен для проверки того, насколько посттренировочное удаление концепта с помощью RMU воспроизводит исключение концепта из обучения. Модель основана на английской OLMo2 с архитектурой плотной авторегрессионной языковой модели и 1,1 млрд параметров; это базовая модель без дообучения на следование инструкциям. RMU применён к завершённой контрольной модели: обновлялись MLP down-projection слоёв 4–6, выбран вариант с высоким steering, α = 10. Контекст модели — 2048 токенов. Она генерирует текст на английском языке и поддерживает чатовый интерфейс, однако не является инструкционной моделью. В опубликованной оценке использовались 50 отложенных целевых вопросов на каждый из трёх концептов; результаты не доказывают широкое удаление знаний, безопасность или переносимость на другие концепты. Лицензия на веса в карточке не заявлена.
LowOnMind-300k — компактная авторегрессионная языковая модель с декодерной архитектурой, разработанная авторами семейства LowOnMind и обученная с нуля. Она содержит 295,9 тыс. параметров, шесть слоёв и словарь из 1024 токенов; обучение прошло на 200 млн токенов набора FineWeb-Edu. Модель предназначена для изучения влияния крайне малого числа параметров на языковое моделирование и сравнения с вариантом LowOnMind-1M при одинаковых условиях обучения. Модель принимает текст и генерирует продолжение на английском языке. Она усваивает орфографию, пробелы, морфологию и короткие языковые шаблоны, но не формирует связный текст, не обладает надёжными фактическими знаниями и не отслеживает смысл на протяжении абзаца. Контекстное окно составляет 512 токенов. Распространяется по лицензии Apache-2.0.
tiny-random/minicpm5 — экспериментальная компактная модель для отладки, созданная на основе конфигурации openbmb/MiniCPM5-1B. Модель имеет случайно инициализированные веса и не предназначена для получения качественных осмысленных ответов или использования в прикладных системах. Модель поддерживает генерацию текста через Transformers и архитектурно представлена как LlamaForCausalLM с двумя decoder-слоями, размером скрытого представления 16, промежуточным размером 64, 16 attention heads и 2 key-value heads. Размер файла model.safetensors составляет около 8,4 МБ. В README не указаны точные языки, поддерживаемые модальности и максимальная длина контекста. Основное преимущество модели — минимальный размер, что удобно для тестирования загрузки, конфигураций и интеграций в Transformers на ограниченных ресурсах. Главные ограничения — случайная инициализация весов и, как следствие, отсутствие заявленной практической полезности, а также необходимость использования trust_remote_code. Лицензия в предоставленных данных не указана.
Envoid разработал экспериментальную производную Mixtral Instruct ITR с намеренно упрощённой, «детской» манерой речи. Модель создана как промежуточный этап исследования повторяющихся языковых шаблонов в ответах LLM и предназначена прежде всего для слияния с другими моделями, а не для самостоятельного практического применения. Модель основана на Mixtral с архитектурой MoE и генерирует текст в диалоговом формате. Для адаптации автор переписал ответы набора Alpaca в упрощённой манере и обучил QLoRA с рангом 512 в течение четырёх эпох; README указывает на базу Mixtral-Instruct-ITR и план слияния с Verdict-8x7B. Метаданные указывают 7,1 млрд параметров, контекст 32 768 токенов и формат safetensors. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства без коммерческого применения.
Это дообученная модель MolmoAct2, опубликованная pravsels и предназначенная для управления роботом SO101 при выполнении задачи eyedrops_basket по визуальным наблюдениям и инструкциям. Дообучение выполнено только для action expert на данных SO101; указаны базовый чекпойнт allenai/MolmoAct2, датасет pravsels/object_top_shelf_reset_remote и 25 000 шагов обучения. Весовой файл представлен в формате safetensors. Модель рассчитана на узкий сценарий манипуляций с корзиной для глазных капель. MolmoAct2 — vision-language-action модель Ai2, адаптируемая для управления конкретным роботом по изображению и языковой инструкции. Лицензия и поддерживаемые языки в предоставленных данных не указаны.
MolmoAct2 x SO-101 sim, LoRA champion (v6) — модель управления роботом, созданная ataghof на основе MolmoAct2 от Ai2. Это дообучение с LoRA 5-миллиардной vision-language-action-модели для манипулятора SO-101 в симуляторе MuJoCo: по изображению сцены и заданию модель управляет захватом красного куба и его перемещением к синей цели. Она выдаёт последовательности из 10 шагов с абсолютными целевыми значениями суставов и двоичной командой захвату; веса представлены в safetensors, лицензия Apache-2.0. В README сообщается о 93% успешных захватов на 30 ранее не встречавшихся позициях куба, 30% строгих успешных размещений и 50% размещений в пределах 6 см от цели. Обучение использовало 500 демонстраций эксперта, сгенерированных в симуляторе, с шумом и восстановлением после ошибок; для VLM применялась LoRA, а эксперт действий обучался полностью. Результаты и назначение относятся к конкретной симуляционной задаче, поэтому они не подтверждают надёжность на реальном роботе или для иных манипуляций.
my_awesome_mind_model — дообученная Michael10098 модель facebook/wav2vec2-base для классификации аудио. Она использует архитектуру Wav2Vec2ForSequenceClassification и содержит 113,3 млн параметров; модель доступна в формате Safetensors и распространяется по лицензии Apache-2.0. Модель принимает аудио и выдаёт метку класса. README не описывает назначение классов, датасет или предполагаемые сценарии применения, поэтому область классификации определить нельзя. На указанной в карточке оценочной выборке точность составила 0,0531, а loss — 2,6724; эти результаты указывают на низкое качество классификации.
NanoDex-1M — компактная авторегрессионная языковая модель, разработанная авторами проекта NanoDex и обученная с нуля на датасете FineWeb-Edu. Это декодерный трансформер LlamaForCausalLM с 1,06 млн параметров, пятью слоями и контекстом 512 токенов; для загрузки используются Transformers и формат safetensors. Модель предназначена для экспериментов и демонстрации предварительного обучения небольшого трансформера на текстовых данных на английском языке. Модель генерирует продолжение текста и усваивает формы слов, частые сочетания и некоторые синтаксические закономерности. Из-за крайне малого размера она не подходит для роли помощника, а её ответы не следует считать достоверными. Лицензия — ODC-BY.
NanoDex-1M-300M — компактная авторегрессионная языковая модель, разработанная huggingworld и предварительно обученная с нуля на наборе FineWeb-Edu. Это декодерный трансформер LlamaForCausalLM с 1 062 272 параметрами, шириной 128 и пятью слоями; модель загружает и генерирует текст, используя контекст до 512 токенов. Обучение охватило около 300 миллионов токенов. Модель предназначена для демонстрации и изучения предварительного обучения трансформера с нуля, а также для экспериментов с очень малыми языковыми моделями. Она улавливает формы слов, частые сочетания и некоторые синтаксические закономерности, но не подходит в качестве помощника и не обеспечивает фактическую достоверность ответов. В метаданных указана лицензия ODC-By.
NoTokenLM-Gen-2.5 — экспериментальная небольшая языковая модель, созданная в рамках исследовательского проекта и обученная с нуля. Это авторегрессионный decoder-only Transformer в стиле GPT с 5 слоями, 2 головами внимания и примерно 3,16 млн параметров. Модель работает на уровне символов: у неё нет BPE-токенизатора или словаря подслов, а текст генерируется по одному символу за раз. В репозитории опубликованы веса safetensors; лицензия — Apache-2.0. Модель предназначена для продолжения английского текста по заданному началу и исследования генерации при малом числе параметров. На обучении она осваивала продолжение предложений на англоязычных книгах, статьях, диалогах, вопросно-ответных примерах и синтетической арифметике. Она может воспроизводить локально правдоподобные фрагменты, пунктуацию и разнообразные слова, но целостность длинного текста обычно слабая. Этот чекпойнт прошёл только предварительное обучение: он не настроен следовать инструкциям или надёжно отвечать на вопросы, не обеспечивает фактическую достоверность и иногда создаёт искажённые слова. Это экспериментальная предварительная версия, а не готовая модель для пользовательских задач.
Это экспериментальный текстовый учитель на базе Qwen2.5-1.5B-Instruct, обученный David Heineman с помощью GRPO и RLVE в среде Axis_KCenter на сложности 0. Модель предназначена для эксперимента по on-policy дистилляции с 32 средами, а не для универсального диалогового применения. Чекпойнт соответствует 150-му обновлению обучения. Веса преобразованы из исходного чекпойнта в формат Hugging Face safetensors и проверены на соответствие именам и размерам тензоров базовой модели. Это плотная авторегрессионная архитектура Qwen2 с 1,5 млрд параметров и контекстом 32 768 токенов; метаданные также указывают поддержку чата и интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Язык карточки — английский. Специализация на одной среде и нулевой сложности, а также экспериментальный характер обучения ограничивают перенос результатов на другие задачи; качество и надёжность для общего применения не заявлены. Лицензия — Apache-2.0.
opd-teacher-Q2.5I-CongruentEquation-step149 — компактная языковая модель на архитектуре Qwen2, разработанная David Heineman для эксперимента по дистилляции с обучением с подкреплением в среде CongruentEquation. Она основана на Qwen/Qwen2.5-1.5B-Instruct и предназначена для генерации ответов в задачах этой среды, а также для использования в эксперименте on-policy distillation с 32 средами. Модель обучали 150 обновлений методом GRPO на сложности 0; опубликован нулевой по отсчёту чекпойнт step149. Модель содержит 1,5 млрд параметров, принимает текст и генерирует текст. Контекст — до 32 768 токенов; заявлен английский язык. Веса сохранены в формате safetensors и совместимы по именам и формам тензоров с базовой моделью. Лицензия — Apache 2.0, унаследованная от Qwen. Это специализированный экспериментальный чекпойнт для задач CongruentEquation и исследований дистилляции; карточка не подтверждает качество для широкого применения или других областей. Возможности чата и интерфейс вызова инструментов указаны в метаданных, но README не описывает их отдельную проверку.
opd-teacher-Q2.5I-DiscreteLogarithm-step149 — плотная авторегрессионная языковая модель семейства Qwen2.5, дообученная David Heineman на базе Qwen/Qwen2.5-1.5B-Instruct методом GRPO с использованием RLVE в среде DiscreteLogarithm с уровнем сложности 0. Это финальный чекпойнт после 150 обновлений, предназначенный для эксперимента по on-policy-дистилляции с 32 средами. Модель содержит 1,5 млрд параметров, принимает текст и генерирует текст; карточка указывает контекст до 32 768 токенов и английский язык. Она подходит для генерации ответов и проверки поведения модели на задачах дискретного логарифмирования в рамках описанного эксперимента. Веса сохранены в формате safetensors и проверены на соответствие именам и формам тензоров базовой модели. Модель распространяется по лицензии Apache-2.0, унаследованной от Qwen. Карточка описывает экспериментальное назначение: обучение ограничено конкретной средой и уровнем сложности, поэтому она не подтверждена как универсальный помощник или решатель задач иных уровней сложности.
Модель разработана David Heineman как экспериментальная версия Qwen2.5-1.5B-Instruct, обученная с помощью RLVE и GRPO на среде HalvingChainCounting с уровнем сложности 0. Она предназначена для использования в эксперименте по on-policy дистилляции с 32 средами. Это плотная авторегрессионная языковая модель семейства Qwen2 с 1,5 млрд параметров и контекстом до 32 768 токенов. Модель принимает текст и генерирует текст; в метаданных указан английский язык. Веса финального чекпойнта после 150 обновлений конвертированы в формат Hugging Face safetensors. Модель подходит для изучения поведения на задачах цепочного счёта с делением и для экспериментов по дистилляции. Чекпойнт обучался лишь на одной среде и одной сложности, поэтому его пригодность для широких диалоговых и прикладных задач не подтверждена. Распространяется по лицензии Apache 2.0.
OpenArm PackingBench v1 — это дообученный чекпойнт NVIDIA GR00T N1.7 на 3 млрд параметров для управления двуруким роботом OpenArm при упаковке предметов. Модель основана на nvidia/GR00T-N1.7-3B, использующем визуально-языковую основу nvidia/Cosmos-Reason2-2B; опубликованы веса в формате safetensors для инференса на шаге обучения 90 000. Модель предназначена для выполнения задачи pick-and-pack в симуляции Isaac Sim: по изображению с четырёх камер и формулировке задания она управляет 16-степенным двуруким OpenArm, чтобы поместить один или два предмета в коробку и закрыть её. Обучение проводилось имитационным методом на 350 эпизодах и 137 678 кадрах; оценка описана для сцены с коробкой ShippingBoxSmall и степлером Stapler6. Модель узкоспециализирована на вариантах задачи упаковки и конфигурации OpenArm из обучающего набора. README указывает лицензию репозитория как other, но конкретные условия не раскрывает.
Это дообученная модель SmolVLA, созданная автором репозитория zwan1003 для управления роботом SO-101 в симуляторе MuJoCo. По изображениям камер, состоянию робота и текстовой инструкции она предсказывает действия для захвата куба и переноса его на указанный слева или справа диск. Цель определяется словами инструкции, а не цветом дисков; модель обучена на наборе zwan1003/pickplace_skills_v3_2 и использует архитектуру vision-language-action с выходом в виде действий робота. На новых стартовых позициях успешность захвата составила 33%, размещения уже удерживаемого куба — 97%, а выполнения всей последовательности — 37%. Модель чувствительна к формулировкам: некоторые близкие синонимы работают, но расплывчатые формулировки, указание цвета и отрицания могут приводить к ошибкам. Работа проверена только в симуляции, в ограниченной рабочей зоне; перенос на физический манипулятор не заявлен. Для воспроизведения результатов требуются согласованные имена камер, настройки физики, статистика нормализации из датасета и фиксация случайного состояния PyTorch. Модель распространяется по лицензии Apache-2.0.
Это экспериментальная разреженная версия разговорной языковой модели RefalMachine/RuadaptQwen3-4B-Instruct, опубликованная пользователем foss22. В модели семейства Qwen3 после удаления 26 из 36 слоёв осталось 10 слоёв и около 1,38 млрд параметров; в метаданных размер указан как 1,3 млрд. Модель распространяется в формате safetensors и рассчитана на генерацию текста в диалоговом режиме с контекстом до 262 144 токенов. Модель предназначена для экспериментов с генерацией текста и оценкой влияния структурного сокращения слоёв. Примеры в карточке показывают, что после обрезки модель выдаёт сильно повреждённый и бессвязный текст, поэтому её качество для обычных диалогов и практических задач не подтверждено. Лицензия в метаданных не указана; README содержит неоднозначное упоминание Apache 2 без подтверждения, поэтому условия использования установить нельзя.
QraXAi-Basic-32M — небольшая языковая модель, разработанная автором репозитория coderian и обученная с нуля. Это причинный декодерный трансформер в стиле GPT с собственной архитектурой QraXAiForCausalLM и примерно 32,1 млн параметров; веса опубликованы в формате safetensors, библиотека — Transformers. Модель предназначена для продолжения англоязычного текста по короткой подсказке, а не для диалога или выполнения инструкций. Модель обучалась один проход на англоязычных образовательных, веб- и программных текстах из exnivo/tinybrain-pretrain-corpus-2b. Контекст ограничен 256 токенами вместе с продолжением. Обучение было коротким, поэтому текст может быть связным локально, но часто оказывается несвязным; бенчмарки не проводились. Генерация медленная из-за отсутствия KV-кэша, а пакетная генерация с дополнением последовательностей не поддерживается. Модель не предназначена для ответов на фактические вопросы и работы с неанглийским текстом. Лицензия — Apache-2.0.