I.5Создание и редактирование текста

BayesRL/Olmo3-B3PO-7B — англоязычная причинно-авторегрессионная модель семейства Olmo 3, разработанная BayesRL и дообученная методом B3PO для исследований обучения с проверяемыми наградами (RLVR), в частности решения математических задач. B3PO использует вариационный оптимизатор IVON: на каждом шаге обучения выбирается одно возмущение параметров из приближённого апостериорного распределения, чтобы исследовать пространство параметров при оптимизации с наградами. Модель содержит 6,9 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. Она предназначена для диалоговой генерации и математических экспериментов: оценивалась на AIME 2024–2026, MATH-500, AMC 2023 и Minerva. Это исследовательский чекпойнт, специализированный на экспериментировании с RLVR, а не универсальная гарантия точности математических ответов. Лицензия — Apache-2.0.

ORP-0.8B-GGUF — набор GGUF-квантизаций модели ORP-0.8B, разработанной hamzah0asadullah. Модель представляет собой полноразмерную SFT-донастройку Qwen3.5-0.8B на архиве диалогов PygmalionAI/PIPPA. Конвертацию исходных safetensors-весов в GGUF выполнила Pink Pixel. Модель предназначена прежде всего для локального текстового общения и ролевых диалогов. Она ориентирована на создание кратких, отзывчивых и связных реплик в стиле классических систем conversational roleplay и рассчитана на работу на компактном оборудовании. Указан английский язык. Архитектура — Qwen 3.5 с поддержкой hybrid linear attention и interleaved MRoPE; размер — около 0,85 млрд параметров, контекстное окно — до 262 144 токенов, словарь содержит 248 320 токенов. Доступны варианты от BF16 до Q2_K размером примерно от 1,41 ГБ до 403 МБ. Q8_0 обеспечивает качество, близкое к исходному, а Q4_K_M предлагается как вариант по умолчанию для мобильных и edge-систем; более сильное сжатие уменьшает требования к памяти, но приводит к заметной потере качества. Для запуска требуется llama.cpp или совместимый интерфейс с поддержкой архитектуры Qwen 3.5, включая Ollama и LM Studio. Модель распространяется по лицензии Apache 2.0.

kuleshov-group/owt-ar — авторегрессионная языковая модель, опубликованная группой Kuleshov на Hugging Face. Карточка модели автоматически сгенерирована и не описывает её назначение или обучение; репозиторий предоставляет загрузку через Transformers с задачей извлечения признаков. Метаданные также указывают генерацию текста как поддерживаемую задачу. Доступные сведения не позволяют надёжно установить архитектуру подробнее, размер, контекст, обучающие данные, лицензию, ограничения или качество. По языковому тегу модель связана с арабским языком; отдельного подтверждения её языкового охвата в карточке нет.

Perceiver IO masked language model для англоязычных текстов, созданная как учебный пример библиотеки perceiver-io и дообученная на неразмеченной части IMDb. Модель использует архитектуру Perceiver IO с 201 млн параметров, токенизацию входа в UTF-8 байты и словарь размером 262; она обращается к исходным байтам текста через перекрёстное внимание. Модель обучена динамическому маскированию целых слов и предназначена для заполнения пропусков в тексте. Её можно использовать как основу для задач по отзывам о фильмах, например анализа тональности. Для работы требуется библиотека perceiver-io с расширением text. Веса опубликованы в форматах PyTorch и safetensors, лицензия — Apache-2.0.

Radiology_Bart — модель Мухаммада Билала для преобразования текстовых результатов радиологических исследований в краткие заключения (impressions), помогающие передавать ключевые находки от радиологов клиницистам. Это encoder-decoder модель семейства BART на основе GanjinZero/biobart-v2-base, дообученная на 70 тысячах обезличенных радиологических отчётов; в метаданных указано 288,8 млн параметров и контекст до 1024 токенов. Модель работает на английском языке и обрабатывает текстовые описания исследований разных анатомических областей и методов визуализации, включая рентген, КТ и МРТ. Модель предназначена для автоматического составления краткого заключения по тексту находок. В карточке приведены оценки ROUGE на тестовом наборе, однако они измеряют сходство с эталонными формулировками и сами по себе не подтверждают клиническую точность. Лицензия в предоставленных данных не указана.

Reformed-Christian-Bible-Expert-v2.1-12B — дообученная модель автора sleepdeprived3 на базе Mistral-Nemo-Instruct-2407 от Mistral AI и NVIDIA. Это плотная языковая модель с 12,1 млрд параметров, контекстом до 131 072 токенов и чатом по шаблону Mistral V3 Tekken. Она отвечает на богословские вопросы с реформатской позиции, объясняет библейские тексты через заветное богословие и историю искупления, а также помогает готовить проповеди, катехизические материалы и учебные разборы. В обучении, согласно карточке, использованы Вестминстерские стандарты, Три формы единства и пуританские труды; модель ориентирована на реформатские исповедальные положения, включая TULIP и «пять сола». Карточка заявляет поддержку более чем десяти языков, включая английский, нидерландский и корейский; в метаданных указан английский язык. Доступны веса Safetensors, а в карточке также упомянуты варианты GGUF и EXL2 с квантизацией. Модель выпущена под лицензией Apache-2.0. Ее ответы отражают заданную конфессиональную перспективу и могут содержать ошибки; автор рекомендует использовать их как поддержку, а не замену пастырскому надзору.

Карточка модели Workstation5495/Resonatex-D2 на Hugging Face совпадает с карточкой Workstation5495/Resonatex-D2-72M-Experimental, поэтому описание составлено по ней. ResonateX D2 — компактная разговорная языковая модель на архитектуре GPT-2, разработанная автором репозитория Workstation5495. Она содержит около 72 млн параметров и обучена с нуля на русских и английских диалогах; от базовой модели ai-forever/rugpt3small_based_on_gpt2 использован только токенизатор. Модель принимает текстовые сообщения в формате с явными маркерами ролей и генерирует ответы ассистента. Контекст ограничен 512 токенами. Модель предназначена для экспериментов с локальными чат-ботами, обучения и лёгких офлайн-приложений на потребительском оборудовании. Небольшой размер позволяет запускать её на CPU, а также на GPU или MPS при наличии подходящего оборудования. Качество ответов может быть ограниченным: возможны шаблонные и повторяющиеся ответы и фактические ошибки; способности к арифметике и рассуждению невелики. Лицензия указана как other, а README предупреждает, что условия для весов и обучающих данных необходимо уточнить перед публикацией или использованием.

SC_aime_qwen3_1_7b_ep3 — объединённый полноразмерный чекпойнт на базе Qwen/Qwen3-1.7B, созданный из базовой модели и LoRA-адаптера после обучения с GRPO на задачах AIME по self-certainty. Чекпойнт соответствует третьей эпохе и шагу global_step_24; базовая модель имеет архитектуру Qwen3ForCausalLM с 1,7 млрд параметров и контекстом до 40 960 токенов. Модель предназначена для генерации текста и диалогов, в частности для решения математических задач формата AIME и рассуждений о степени уверенности в ответе. Она использует текстовый ввод и выдаёт текст. Опубликована в формате safetensors и доступна по лицензии Apache-2.0. Карточка не приводит результатов оценки качества.

SloBERTa — одноязычная модель семейства BERT для словенского языка, разработанная EMBEDDIA и построенная на архитектуре CamemBERT. Она содержит 137,8 млн параметров, использует словарь из 32 000 токенов и принимает последовательности длиной до 514 токенов. Модель обучалась на корпусах Gigafida 2.0, Kas 1.0, части Janes 1.0, парламентском корпусе siParl 2.0 и slWaC; общий объём обучающих данных составил 3,47 млрд токенов. Основная задача модели — предсказание замаскированных токенов. Это подходит для восстановления пропусков в словенском тексте и получения контекстных языковых представлений для последующей адаптации к задачам обработки словенского языка. Модель распространяется в формате PyTorch и загружается через Transformers как модель masked language modeling. Лицензия — CC BY-SA 4.0. Модель специализируется на словенском языке; её карточка описывает предобучение, но не приводит результатов оценки качества на прикладных задачах.

SoreQen S1 Mini — компактный диалоговый ассистент от ZorQelis AI, дообученный методом LoRA на базе Qwen/Qwen3.5-0.8B. Адаптер обучен на 17 044 примерах, связанных с идентичностью ассистента и диалогами на английском и хинглише. Модель использует плотную архитектуру Qwen3.5 и формат весов safetensors; контекстное окно составляет 262 144 токена. Модель предназначена для разговорных сценариев: отвечает на английском или хинглише латиницей и подстраивает стиль ответа под пользователя. Обучение улучшило сохранение идентичности SoreQen, тогда как ответы на хинглише по результатам карточки сопоставимы с базовой моделью. Унаследованные от базы возможности включают обработку изображений, вызов инструментов и режим рассуждений, но они не были целью дообучения. Ограничения включают ненадёжность небольшой модели в арифметике и фактических числах, отсутствие вывода на деванагари и непригодность для критически важных или профессиональных консультаций. Выпускается по лицензии Apache 2.0.

Supra-1.5-50M-Instruct-exp — экспериментальная языковая модель SupraLabs с архитектурой Llama и примерно 51,8 млн параметров. Это дообученная для инструкций версия SupraLabs/Supra1.5-50M-Base-exp, предназначенная для экспериментов с компактными моделями и чат-генерацией текста на устройствах с ограниченными ресурсами. Модель принимает текст и генерирует текст; заявленная длина контекста — 5120 токенов. В карточке указана поддержка английского языка. Разработчики описывают её как платформу для изучения следования инструкциям, масштабирования и производительности малых моделей, однако опубликованные сведения о бенчмарках неполны и не дают достаточно деталей для независимой оценки качества. Модель помечена разработчиками как экспериментальная и не предназначенная для производственного использования. Весы опубликованы под лицензией Apache-2.0.

Joseph G. Flowers представил экспериментальную плотную языковую модель семейства Llama, созданную на основе TinyLlama 1.1B Cinder v2. Автор сократил модель с 22 до 14, а затем до 11 слоёв, после чего обучал её на Reason with Cinder, подмножестве Open Orca, ShareGPT, Cinder и Tiny Textbooks. В метаданных указаны архитектура LlamaForCausalLM, около 550 млн параметров и контекст 2048 токенов. Модель опубликована как базовая заготовка для дальнейшего обучения и генерации текста в формате чата Zephyr. Автор отмечает, что после сокращения числа слоёв ответы оставались лишь намеченными и модель может требовать дополнительной доработки. Лицензия — MIT.

TinyParlaMintLlama-1.1B — дообученная методом SFT модель на базе TinyLlama/TinyLlama-1.1B-Chat-v1.0, созданная автором репозитория с применением QLoRA. Она предназначена для генерации текста и диалоговых ответов с уклоном в политическую тематику. Обучение проводилось примерно 12 часов на одном ускорителе A100 40 ГБ на выборке объёмом около 100 млн токенов из англоязычного корпуса выступлений парламентов Австрии, Дании, Франции, Великобритании, Венгрии, Нидерландов, Норвегии, Польши, Швеции и Турции. Модель относится к семейству Llama, использует плотную архитектуру LlamaForCausalLM и содержит около 1 млрд параметров. Она принимает текст, поддерживает чат и рассчитана на контекст до 2048 токенов. Корпус обучения и базовая модель ориентированы на английский язык; дообучение направлено на усиление знаний о политике и парламентских выступлениях. Модель распространяется по лицензии Apache-2.0.

Veritas-12B-i1-GGUF — набор квантизированных GGUF-версий модели Veritas-12B, разработанной soob3123 и подготовленной к квантизации пользователем mradermacher. Модель ориентирована на работу с философской тематикой, логикой, этикой, метафизикой, эпистемологией, критическим мышлением, дискуссиями и диалогами. В качестве источников данных указаны Stanford Encyclopedia of Philosophy и набор вопросов и ответов по стоицизму на Reddit. Заявленный язык — английский. Модель имеет размер 12B параметров; точная архитектура, длина контекста и поддерживаемые модальности в README не указаны. Репозиторий содержит множество вариантов квантизации с размером файлов примерно от 3,0 до 9,8 ГБ. Более компактные варианты требуют меньше памяти, но могут заметно уступать по качеству; в README отдельно отмечены рекомендуемые компромиссы между размером, скоростью и качеством, включая i1-Q4_K_M. Сильной стороной модели является специализация на философских рассуждениях и связанных с ними диалоговых сценариях, однако качество зависит от выбранного уровня квантизации, а заявленные возможности не подтверждены количественными оценками. Лицензия в README не указана, поэтому условия использования необходимо уточнять отдельно у автора базовой модели и для выбранного файла.

Wolfgang-LM 75M Instruct — языковая модель, разработанная Dominik Reiner и дообученная на базе Wolfgang-LM-75M-Base. Это плотный decoder-only трансформер архитектуры Llama с 75,5 млн параметров и контекстом 512 токенов; веса опубликованы в формате safetensors. Модель ведёт диалог в образе Иоганна Вольфганга фон Гёте и отвечает на современные вопросы стилизованным языком немецкого классицизма эпохи Веймара. Модель предназначена для ролевого чата, образовательных диалогов о литературе и преобразования современных формулировок в исторически стилизованный немецкий. Она поддерживает генерацию текста на немецком языке. Из-за небольшого размера её рассуждения ограничены; стиль и образ важнее фактической точности, поэтому модель может выдумывать стихи, цитаты и исторические сведения и не подходит для профессиональных консультаций. Лицензия — MIT.

1pp-0.5b-asst-base — экспериментальная базовая языковая модель из проекта One Persona Pretraining (1PP), связанного с EPFL DLAB. Это плотная decoder-only модель семейства Llama с 523,8 млн параметров, обученная на переписанных диалогах с функцией потерь только на репликах ассистента. В исследовании сравнивались три размера и три условия предобучения на одном порядке исходных документов; эта версия представляет условие с диалоговой переработкой данных и маскированием потерь на пользовательских репликах. Модель предназначена для генерации текста в формате диалога ChatML и изучения влияния способов подготовки предобучающих данных. Она использует SmolLM2-токенизатор с размером словаря 49 152, контекст до 4 096 токенов и архитектуру с 24 слоями, SwiGLU и RoPE. Основной язык карточки — английский. Несмотря на поддержку чатового формата, README прямо указывает, что это базовая модель, не универсальный помощник; обучение не включало системный ход. Лицензия — Apache-2.0.

Модель ishikaa/acquisition_student_random_medmcqa_qwen7b_10000 — языковая модель для генерации текста на базе семейства Qwen2 с 7,1 млрд параметров. В метаданных указаны библиотека Transformers, поддержка safetensors и обучение с использованием supervised fine-tuning (SFT); контекстное окно составляет 32 768 токенов. README не содержит сведений о разработчике, лицензии и точной исходной архитектуре. По названию репозитория модель, вероятно, связана с экспериментом по обучению на данных MedMCQA и предназначена для генерации ответов на медицинские вопросы, однако README не подтверждает состав обучающих данных, методику обучения или результаты оценки. Pipeline модели — text-generation, поэтому её можно применять для генерации ответов и продолжения диалоговых текстов при наличии подходящего промпта. Ключевые ограничения — отсутствие документированных метрик, описания качества, сведений о безопасности и подтверждённой лицензии. Медицинские ответы нельзя использовать как замену консультации квалифицированного специалиста.

Карточка модели haoranxu/ALMA-13B на Hugging Face совпадает с карточкой haoranxu/ALMA-13B-Pretrain, поэтому описание составлено по ней. haoranxu/ALMA-13B-Pretrain — базовая стадия модели ALMA, разработанной Haoran Xu и соавторами как часть проекта по улучшению машинного перевода с помощью больших языковых моделей. Это плотная авторегрессионная модель семейства LLaMA-2 с 12,9 млрд параметров, дообученная на 12 млрд токенов монолингвистических данных; она принимает и генерирует текст, имеет контекст 4096 токенов и опубликована в формате PyTorch. Этот чекпойнт прошёл только первый этап обучения и сам по себе не является моделью перевода. В проекте его используют совместно с соответствующим LoRA-адаптером для дальнейшего обучения на параллельных данных; задачи перевода предназначены для получившейся модели ALMA, а не для этого чекпойнта отдельно. Модель доступна по лицензии MIT.

AstroLLaMA — языковая модель семейства Llama для генерации текста на астрономическую и астрофизическую тематику. Репозиторий UniverseTBD содержит плотную причинную модель LlamaForCausalLM размером 6,6 млрд параметров; карточка указывает обучение на наборе аннотаций статей arXiv по астрономии и астрофизике. Модель принимает текстовый запрос и генерирует текст, а README также описывает получение текстовых эмбеддингов. Модель подходит для составления и продолжения тематических текстов, а также для работы с научными формулировками в области астрономии. Указанный контекст — 4096 токенов, основной язык карточки — английский. Репозиторий распространяется по лицензии MIT. При использовании для эмбеддингов следует учитывать, что основная задача модели в метаданных — генерация текста, а оценка качества на прикладных сценариях в предоставленных материалах не приведена.

BabyLM-community/babylm-multimodal-baseline-flamingo — мультимодальная модель генерации текста, опубликованная сообществом BabyLM как базовая модель для мультимодального направления BabyLM Challenge. Она предназначена для изучения того, как компактные языковые модели связывают язык с визуальной информацией; в частности, может генерировать текст с учётом изображения и использоваться для визуального заземления языка. Архитектура построена на Flamingo с текстовым декодером, обусловленным визуальными токенами; в конфигурации Hugging Face указано семейство OPT и около 138,4 млн параметров. Контекст составляет 2048 токенов. Ввод включает текст и изображения, вывод — текст. Модель ориентирована на англоязычные данные BabyLM; сведения о лицензии и более точных ограничениях в карточке не приведены.

BananaMind-2-Mini — компактная языковая модель BananaMind, обученная с нуля как часть серии BananaMind 2. Это плотный декодерный Transformer с 25,2 млн параметров, контекстом до 4 096 токенов и собственным байтовым BPE-токенизатором на 8 тысяч токенов, который отдельно обрабатывает цифры. Модель обучали на смеси веб-текстов, образовательных материалов, синтетических учебников и математических данных. Модель предназначена для продолжения текста, локальных экспериментов с небольшими языковыми моделями и исследования токенизаторов и обучения моделей. Это базовая модель, поэтому она рассчитана на подсказки для продолжения текста, а не на диалоговый формат. В README приведены результаты самооценки на нескольких тестах рассуждения и понимания; они не гарантируют качество в других сценариях. Для загрузки через Transformers требуется включить trust_remote_code=True. Лицензия — Apache-2.0.

Calypso 3B Alpha V2 — языковая модель Xilabs для диалогов один на один с персонажем или заданной персоной. Это дообученная версия openlm-research/open_llama_3b_v2 с 3,3 млрд параметров; при обучении использовались набор PIPPA-Alpaca и закрытый набор диалогов, написанных людьми. Модель построена на архитектуре Llama и предназначена для генерации текста. Её контекст составляет 2048 токенов, а в метаданных указан английский язык. Модель подходит для ролевых диалогов и интерактивного общения с виртуальными персонажами. Ответы могут содержать оскорбительный, неподходящий или чувствительный контент, а фактическая точность не гарантируется; также возможны смещения из обучающих данных. Указана лицензия CC BY-NC-SA 4.0, поэтому коммерческое использование ограничено условиями лицензии.

CHIP 2.0 — разговорная языковая модель HarlockDestroyer на архитектуре MixtralForCausalLM с разреженной архитектурой MoE и 7,1 млрд параметров. Она дообучена для генерации кратких, естественных ответов на испанском языке и предназначена для виртуального помощника, который отвечает на повседневные вопросы. Модель принимает текст и генерирует текст; контекстное окно составляет 32 768 токенов. Модель можно использовать для диалогов и ответов на типичные вопросы в приложениях виртуального помощника. Доступны веса в формате safetensors, для запуска в README показан Transformers. Лицензия — Apache-2.0. Карточка не приводит оценок качества или результатов тестирования.

ConstructionSafetyQA-1.2B-V1 — дообученная на базе LiquidAI/LFM2-1.2B компактная языковая модель от yasserrmd, оптимизированная для ответов на вопросы по безопасности строительных работ. Она принимает текстовые инструкции и вопросы и формулирует короткие практические ответы для рабочих и руководителей площадок: по обучению безопасности, предотвращению опасностей и правилам работы на стройке. Модель имеет плотную архитектуру LFM2 с 1,5 млрд параметров, поддерживает контекст до 32 768 токенов и настроена на диалоговое следование инструкциям. Модель подходит для кратких консультаций на площадке, вводных инструктажей и повторения правил безопасности. Она даёт общие рекомендации, не учитывает местные нормы и требования законодательства, а её лаконичные ответы не являются техническими справочниками. Критически важные решения следует проверять с участием специалиста; модель не заменяет сертифицированное обучение и официальные правила. Лицензия в предоставленных данных не указана.

Cypher-CoT-1.8B — экспериментальная языковая модель aloobun, дообученная на h2oai/h2o-danube-1.8b-chat на наборе задач с пошаговыми рассуждениями. Это плотная Mistral-архитектура для генерации текста и диалогов; размер модели составляет 1,7 млрд параметров, контекст — до 16 384 токенов. В примере модель раскладывает арифметическую задачу на шаги и формулирует итоговый ответ. Модель подходит для экспериментов с генерацией решений и объяснений для задач, требующих цепочки рассуждений. Обучение проводилось на данных kaist-ai/CoT-Collection. Контрольные показатели в карточке обозначены как находящиеся в разработке, поэтому качество не подтверждено опубликованными бенчмарками. Распространяется в формате safetensors по лицензии Apache-2.0.

FrontD.11m — компактная авторская языковая модель семейства FrontD, разработанная проектом 11-47 и обученная с нуля. Это декодерная модель на 10 996 608 параметров для генерации текста; модель реализована на PyTorch. Архитектура включает 6 слоёв, 16 голов внимания, скрытый размер 256, словарь из 16 000 токенов, RoPE, RMSNorm и SwiGLU; входные и выходные эмбеддинги связаны. Контекст составляет 1096 токенов. Предварительное обучение проводилось на наборе Plans11/Organized_PreTrain_1k_Context. Модель подходит для экспериментов с компактными языковыми моделями и генерацией текста в пределах короткого контекста. Она обучена с нуля и не является дообучением готовой базовой модели. Лицензия MIT разрешает использование, изменение и распространение с соблюдением её условий.

Gasztold-0.3B — авторская причинно-следственная языковая модель на архитектуре Llama, созданная с нуля для генерации текстов на польском языке в юридической тематике. Модель содержит около 294,9 млн параметров, использует словарь из 50 000 токенов и поддерживает контекст до 2 048 токенов. Модель предназначена для продолжения юридических текстов, экспериментов с суммаризацией и анализом законодательных формулировок, а также прототипирования юридических помощников с поиском по документам. Она работает с текстом и выдаёт текст. Модель не заменяет юриста: её ответы могут быть неполными, устаревшими или неверными, поэтому юридические выводы следует проверять у специалиста. Лицензия — Apache-2.0.

HyperCLOVA X SEED Think-14B SFT AI Hub Joint 9K — самостоятельная дообученная разговорная языковая модель автора репозитория на базе naver-hyperclovax/HyperCLOVAX-SEED-Think-14B. Это плотная архитектура HyperCLOVAXForCausalLM с 14,1 млрд параметров; веса в формате safetensors, библиотека Transformers, контекст до 131072 токенов. Модель предназначена для генерации ответов и рассуждений, с настройкой на корейскоязычные медицинские вопросы, числовые задачи по экономике и спорту, а также причинно-следственный вывод. Для обучения объединили 9000 примеров из трёх наборов AI Hub: по 3000 примеров на каждую область. Один LoRA-адаптер обучили на общей выборке, затем объединили с базовой моделью; это не смесь трёх отдельных адаптеров. Заявлены отсутствие усечения обучающих последовательностей и успешная локальная проверка генерации, но официальные результаты бенчмарков не приведены. Указана лицензия «other»; конкретные условия следует проверять в карточке модели и у базовой модели. Обучающие данные и назначение указывают на специализацию по-корейски; качество на других языках и независимая оценка прикладных сценариев не описаны.

LEGAL-ROBERTA — языковая модель семейства RoBERTa для юридических текстов, разработанная Saibo-creator и дообученная на корпусах объёмом около 4,6 ГБ. В обучающие данные вошли материалы о патентных спорах, судебные решения США и общедоступные патентные данные Google. Модель содержит 151,8 млн параметров, принимает последовательности длиной до 514 токенов и доступна в форматах PyTorch, TensorFlow и Flax под лицензией Apache-2.0. Основная задача модели — предсказывать пропущенные токены в юридическом тексте. Это может помочь при анализе формулировок договоров, судебных решений и патентных документов; карточка также приводит результаты оценки на классификации юридических текстов и поиске ключевых фраз, но основное назначение репозитория — заполнение пропусков. Модель обучалась преимущественно на англоязычных юридических материалах. В README автор отмечает, что модель недообучена из-за ограниченного объёма доступных юридических корпусов и небольшого числа шагов предобучения. В демонстрации заполнения пропусков токенизатор показывает префикс Ġ у токенов, что может осложнять чтение вывода.

Это компактная языковая модель 0rn0 на базе собственной реализации архитектуры Llama 2 с примерно 15,2 млн параметров. Модель предварительно обучена с нуля на TinyStories, затем дообучена методом supervised fine-tuning на сбалансированном наборе инструкций 0rn0/tinystories-instruct-balanced; она создаёт короткие истории по текстовым запросам и поддерживает выбор счастливого или грустного финала. Модель рассчитана на англоязычные короткие рассказы: её словарь и повествовательная сложность ограничены, а контекст составляет 256 токенов. Для запуска требуется исходный код проекта, поскольку модель использует пользовательскую реализацию PyTorch и несовместима напрямую с Transformers. Веса опубликованы в формате safetensors; лицензия — MIT.