I.5Создание и редактирование текста

itsthenewmeta/gpt2-tiny-stories — небольшая авторская GPT-2-модель, обученная разработчиком с нуля на наборе TinyStories. Это первая модель разработчика; обучение ограничилось предобучением и заняло около семи часов на RX 9070 XT. Модель предназначена для генерации текста и коротких историй на английском языке. Она использует архитектуру GPT2LMHeadModel и принимает текстовый контекст длиной до 512 токенов, выдавая продолжение текста. Обучение на TinyStories ориентирует её на простые повествования. Карточка не сообщает о дополнительной настройке под диалог или другие задачи, а также не приводит лицензию. Масштаб модели не указан; предобучение само по себе не подтверждает качество или пригодность для практического применения.

KoBERT-LM — корейская модель на базе BERT, разработанная monologg и дополнительно предварительно обученная для повторного обучения маскированной языковой головы. Она предназначена для предсказания скрытых токенов и дальнейшего обучения языковой модели на корейских текстах. Модель содержит 119,4 млн параметров, принимает текстовые последовательности длиной до 512 токенов и доступна в форматах PyTorch, Flax и safetensors. Модель подходит как основа для экспериментов и задач восстановления пропущенных слов в корейском тексте. README указывает, что для загрузки токенизатора через AutoTokenizer требуется trust_remote_code=True. Распространяется по лицензии Apache-2.0.

kor-baseline-small — небольшая GPT-2-модель авторегрессионной генерации текста, опубликованная сообществом BabyLM. Она дообучена на неизвестной базовой модели и неизвестном наборе данных; в карточке приведён результат оценки Loss 2,6595, но подробности оценки не раскрыты. Модель предназначена для генерации текста на входной текстовой подсказке и может использоваться для экспериментов с языковыми моделями.

L3-Umbral-Mind-RP-v0.6.2-8B — англоязычная слитая модель Casual-Autopsy на архитектуре Llama с 7,5 млрд параметров. Она предназначена для ролевых диалогов и написания историй, в том числе с тяжёлыми темами: психическими расстройствами, самоповреждением, травмой и суицидом. Модель ориентирована на сценарии спасения и обратного спасения персонажей и на менее оптимистичный, более подходящий этим сюжетам тон. Модель создана с помощью mergekit: в слиянии использованы несколько ролевых моделей Llama 3, а также модели с данными по психологии. Репозиторий содержит веса в формате Safetensors; указанный нативный контекст — 8192 токена. Для модели заявлена лицензия Llama 3. Она предназначена для взрослой аудитории и не позиционируется как средство психологической помощи или терапии.

Legal Longformer (base) — англоязычная модель LexLM, созданная как производная от LexLM (base) на основе RoBERTa. Она предназначена для работы с длинными юридическими документами и предсказывает пропущенные токены в тексте. Модель имеет архитектуру LongformerForMaskedLM и около 151,6 млн параметров; позиционные эмбеддинги расширены копированием исходных эмбеддингов по подходу Beltagy et al. (2020), а контекст составляет до 4098 токенов. Базовые LexLM предварительно обучались на корпусе LeXFiles: авторы продолжили обучение исходных RoBERTa на юридических текстах, используя токенизатор из 50 тысяч BPE-токенов. Модель подходит для языкового моделирования и анализа длинных юридических текстов, но карточка не подтверждает специализированные прикладные метрики или обучение для конкретных юридических задач. Лицензия — CC BY-SA 4.0.

promotion выпустила экспериментальный чекпойнт pi_2 — второй этап Nash Bargaining Preference Optimization (NBPO) для диалоговой модели на базе meta-llama/Llama-3.1-8B-Instruct. Модель с архитектурой LlamaForCausalLM содержит 7,5 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. Репозиторий содержит веса в формате Safetensors. Чекпойнт предназначен для диалогов, в которых нужно совместно учитывать полезность ответов и их безвредность. Он получен дообучением на данных SafeRLHF: второй внешний этап NBPO заново сформировал пул примеров, переоценил обучающую матрицу из 44 000 ячеек и дообучил политику в течение 300 обновлений. По карточке, этап прошёл заданную проверку, однако не улучшил результат относительно pi_1: выигрыш по целевой метрике составил лишь +0,003, а худшая из оценок выигрыша по отдельным целям снизилась на 0,008. Оценка проводилась на отложенных промптах без пересечения с обучающими; ответы сравнивались с базовой моделью и оценивались Llama-3.3-70B-Instruct. Модель опубликована по лицензии llama3.1. Она ориентирована на исследовательское изучение многоцелевой оптимизации предпочтений; результаты второго этапа не свидетельствуют об улучшении относительно pi_1. Данных о поддерживаемых языках сверх характеристик базовой модели в карточке нет.

LLaVA-Next Interleave — открытый мультимодальный чат-бот, разработанный lmms-lab путём дообучения языковой модели на данных мультимодального следования инструкциям. В основе лежит авторегрессионная трансформерная архитектура LlavaQwenForCausalLM и базовая модель Qwen/Qwen1.5-0.5B-Chat; размер — 463,9 млн параметров, контекст — до 32 768 токенов. Модель предназначена для исследовательских экспериментов с мультимодальными моделями и чат-ботами, в частности для сценариев, где в диалоге сочетаются текст и изображения. Карточка описывает её как модель для исследователей и энтузиастов в области компьютерного зрения, обработки естественного языка и машинного обучения. Метаданные указывают возможность чата, но не перечисляют дополнительные задачи сверх генерации текста. Модель опубликована в формате safetensors. В README указано ограничение на коммерческое использование; лицензия в предоставленных данных не названа. Качество и ограничения на конкретных типах изображений или задачах не описаны.

Luminaura-RP-13B — языковая модель для ролевого общения, созданная автором Ppoyaa путём слияния нескольких ролевых моделей Llama 13B. Модель генерирует продолжения текста и поддерживает контекст до 131 072 токенов. Она предназначена для ролевых диалогов и сценариев ERP, включая генерацию контента рейтинга X. В карточке указано, что модель может выдавать откровенный контент. Вес модели — 12,9 млрд параметров; для запуска приведён пример с Transformers и генерацией текста. Модель распространяется по лицензии Apache-2.0.

LuminRP-7B-128k-v0.4 — текстовая генеративная модель для ролевых диалогов, созданная слиянием четырёх RP-моделей с помощью LazyMergekit. Она построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 131 072 токенов. Модель рассчитана на ролевые сценарии и может использоваться в чат-интерфейсах, например SillyTavern; в карточке приведены настройки с шаблоном ChatML и включённым режимом инструкций. Автор отмечает, что модель иногда допускает опечатки. Репозиторий распространяет веса в формате Safetensors; отдельная GGUF-квантизация опубликована другим автором. Сведения о лицензии и поддерживаемых естественных языках в предоставленных источниках отсутствуют.

Marimo 0.6B — исследовательская модификация Qwen/Qwen3-0.6B от автора репозитория goldenfox, представленная как отдельный порт для MLX. Модель сочетает авторегрессионную генерацию с дискретной диффузией: внутренние блоки рассуждений формируются поэтапно, а затем видимый ответ генерируется авторегрессионно. Механизм ledger memory сохраняет краткие заметки о предыдущих ходах, чтобы поддерживать диалог при ограниченном окне контекста. Модель дообучена на синтетическом корпусе примерно из 15 тысяч диалогов, преимущественно в стиле помощника для сбора и ведения заметок. Она содержит 507,9 млн параметров и распространяется в формате safetensors с весами fp16; порт рассчитан на запуск через MLX на Apple Silicon. README указывает контекст 2048 токенов и обучение только на английских данных. Внутренняя проверка на одном наборе из 40 ходов показала преимущество в извлечении сохранённых фактов перед базовой моделью в описанном сценарии, но авторы отмечают, что это не полноценный бенчмарк. Модель подходит для экспериментальных диалоговых сценариев с заметками и возвратом к ранее отмеченным фактам. Из-за небольшого размера она может ошибаться в фактах и быть нестабильной за пределами настроенного разговорного регистра; записи в ledger зависят от того, что модель решила сохранить, а длинные документы ограничены контекстом. Лицензия — Apache-2.0.

aparajitha/mbart-ft-sci-ms-en — дообученная модель семейства mBART на базе aparajitha/mbart-sci-ft, созданная для преобразования текста с помощью архитектуры Seq2Seq. В репозитории указана оценка Loss 2.0887 на тестовой выборке, но назначение преобразования и использованный датасет не описаны. Модель содержит 457,4 млн параметров, использует библиотеку Transformers и формат safetensors. Длина контекста — 1024 токена. Лицензия — MIT. По доступным сведениям нельзя надёжно определить поддерживаемые языки или конкретные сценарии применения.

Карточка модели hfl/minirbt-h288 на Hugging Face совпадает с карточкой hfl/minirbt-h256, поэтому описание составлено по ней. hfl/minirbt-h256 — небольшая предварительно обученная модель для обработки китайского языка, опубликованная HFL. Она основана на архитектуре BERT и обучена с применением дистилляции знаний с помощью инструментария TextBrewer и технологии Whole Word Masking. Модель предназначена для заполнения пропусков в китайском тексте: она предсказывает замаскированные токены по окружающему контексту. Модель содержит 11,7 млн параметров и поддерживает контекст до 512 токенов. Доступны форматы PyTorch и TensorFlow. Репозиторий распространяется по лицензии Apache-2.0. Карточка не приводит сравнительных оценок качества или подробностей о составе обучающих данных.

Экспериментальный базовый чекпойнт nanochat-d24-base-r24-s615173, построенный на nanochat от Андрея Карпати. Это плотная GPT-модель на 910,7 млн параметров, глубиной 24 слоя, обученная на одном RTX 4070 12 ГБ на датасете FineWeb-Edu. Чекпойнт соответствует шагу 615 173 и завершает продолжение обучения с соотношением aspect ratio 24. Модель предназначена для генерации текста и воспроизведения эксперимента о том, что метрика validation bits-per-byte не всегда выбирает лучший чекпойнт. Здесь validation bpb составляет 0,9081, но CORE равен 0,1494, поэтому модель не была выбрана для продвижения: другой чекпойнт получил лучший CORE. Публикация позволяет сравнить результаты; README указывает, что GPT-2 на 1,6 млрд параметров существенно превосходит её по CORE. Репозиторий содержит только веса и конфигурацию, без токенизатора: для загрузки нужны токенизатор и загрузчик из базового репозитория. Указана лицензия MIT.

Nimue 8B — дообученная диалоговая модель manbeast3b на архитектуре Llama 3, созданная на основе meta-llama/Meta-Llama-3-8B-Instruct. Она предназначена для генерации ролевых ответов с заданными чертами персонажа и длиной ответа. Модель обучена в zero-shot формате инструкций Alpaca; автор отмечает, что она не рассчитана на многоходовый диалог. Для управления стилем перед ответом можно задавать метки, например черту характера и длину. В карточке указаны 7,5 млрд параметров, контекст 8192 токена, формат safetensors и английский язык. Лицензия обозначена как other.

Novaciano/Novaciano-The_Pervert-NSFW-RP-3.2-1B — разговорная языковая модель для ролевых игр и создания мрачных, тревожных и провокационных историй. Её разработал Novaciano, объединив модели методом Arcee Fusion с помощью mergekit; в качестве базовой использована bunnycore/FuseChat-3.2-1B-Creative-RP, также в слияние вошла Novaciano/Novaciano_Perturbations-3.2-1B. Модель построена на плотной архитектуре LlamaForCausalLM, содержит 1,2 млрд параметров и имеет заявленный контекст 131 072 токена. Подходит для интерактивного ролевого общения и творческого письма; README также заявляет общие возможности ассистента. В карточке указаны английский и испанский языки. Модель ориентирована на взрослые и тревожные темы, поэтому может быть неподходящей для широкой аудитории. Распространяется в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.

Ntahokaja 0.31 Base — базовая языковая модель, разработанная Nyehashi AI и обученная с нуля специально для языка кирунди. Это компактная плотная Transformer-модель архитектуры GPT-2 с 91,2 млн параметров, 12 слоями и 12 головами внимания; она использует морфологический BPE-токенизатор, рассчитанный на агглютинативную грамматику банту, и контекст до 512 токенов. Модель предназначена для продолжения текста, лингвистических исследований и дообучения под инструкции. В карточке отмечены знания о географии и политической истории Бурунди, а также склонность отводить вредоносные запросы к темам общественного уважения и конституционного права. Это базовая модель, а не готовый разговорный помощник: она не дообучена для ответов на вопросы, поэтому качество диалога и следования инструкциям не заявлено. Для загрузки с пользовательским токенизатором README указывает необходимость включить trust_remote_code=True. Веса доступны в формате Safetensors; лицензия — Apache-2.0.

SirSahOl подготовил версию OPT-125M для локального запуска на устройствах Apple Silicon: веса модели facebook/opt-125m представлены в формате MLX и сохранены в safetensors с точностью 16 бит. Это плотная авторегрессионная модель архитектуры OPTForCausalLM примерно на 152 млн параметров с контекстом до 2048 токенов, предназначенная для генерации и продолжения текста. README описывает использование через MLX и приводит измерения скорости на Apple M1. Модель подходит для локальных экспериментов, оценки и простых сценариев генерации текста на английском языке. Небольшой размер облегчает запуск, однако модель значительно компактнее современных чат-моделей, поэтому её ответы и сложные рассуждения могут быть ограничены. Конверсия рассчитана на GPU Apple Silicon; лицензия указана как other, поэтому перед использованием следует проверить её условия.

Qiushi-Engine-Principle-Guided-Frontier-Advancement — исследовательская модель Oxelra AI, третий этап программы BabyLM Strict-Small. Это DeBERTa-v2 с двумя последовательными остаточными адаптерами и около 37,4 млн параметров; она предсказывает замаскированные токены в контексте до 512 токенов. Модель продолжает обучение базовой модели: при обучении скрывается больше слов, предсказание оценивается на выбранных позициях, а дополнительная функция потерь помогает сохранять поведение родительской модели. Предназначена для предсказания пропущенных токенов, оценки предложений и тонкой настройки энкодера в экспериментах с англоязычными данными BabyLM Strict-Small. Для загрузки требуется пользовательский код модели через Transformers. Модель распространяется по лицензии Apache-2.0.

MLZoo/Qwen2.5-1.5B-Instruct-DPO-bad-boy — языковая модель, разработанная Ming Liu и дообученная методом DPO на базе Qwen/Qwen2.5-1.5B-Instruct. Она генерирует текст в более напористом и прямом тоне и подходит для творческого письма и ролевых сценариев, где нужен такой стиль. Модель построена на архитектуре Qwen2 плотного типа с 1,5 млрд параметров, принимает и генерирует текст, поддерживает диалоговый режим и имеет контекст до 32 768 токенов. Карточка описывает английский язык, а метаданные также связывают модель с китайским языком и китайским датасетом дообучения. Обучение включало грубый и оскорбительный контент, поэтому ответы могут быть предвзятыми, оскорбительными или неуместными. Модель не рекомендуется для обслуживания клиентов, образования и других сценариев, где особенно важны уважительный тон и безопасность; результаты следует проверять и модерировать. Лицензия — MIT.

MuXodious/Qwen3.5-4B-MiniFantasy-MTP — модель генерации текста на базе Qwen3.5-4B, предназначенная для ролевых диалогов и повествования с карточками персонажей. По README, это 4-битная LoRA-настройка модели MuXodious/Qwen3.5-4B-SOMPOA-heresy-v2; метаданные каталога связывают её с Nubinu/Qwen3.5-4B-MiniFantasy. README сообщает о восстановлении весов Multi Token Prediction из базовой модели и рекомендует форматировать карточки персонажей по категорийной структуре Markdown. Модель использует архитектуру Qwen3.5 и формат safetensors, поддерживает чат и рассчитана на английский язык. Лицензия — Apache-2.0. Модель подходит для отыгрыша персонажей, поддержания заданной личности и лора, а также для создания художественных сцен и ролевых историй. README рекомендует подбирать настройки сэмплера для ровного темпа повествования и снижения повторов. Это специализированная настройка для ролевого письма; качество зависит от оформления карточки персонажа и параметров генерации.

violetxi выпустил полноразмерный чекпойнт Qwen3.5-9B, дообученный на эксперименте с 5 млн токенов заметок и траекториями, обусловленными заметками. Это плотная модель на 9 млрд параметров для диалоговой генерации текста; в метаданных также заявлен интерфейс вызова инструментов. Обучение включало смесь из 70% токенов заметок и 30% ответов ассистента в траекториях, два эпоха и 306 обновлений; использовалась последовательность длиной 16 384 токена. Модель основана на Qwen/Qwen3.5-9B и распространяется в формате safetensors через Transformers. Чекпойнт предназначен для экспериментов с агентными сценариями, где модель использует заметки и следует многошаговым траекториям. В README приведены результаты исторической оценки: доля попыток, прошедших все критерии, составила 2,4% при бюджете 5 ходов и 3,4% при 20 ходах; эти результаты ограничены описанным протоколом и не являются новым бенчмарком. Модель поддерживает английский язык и унаследовала мультимодальную архитектуру Qwen3.5, однако карточка не описывает отдельные визуальные оценки для этого чекпойнта. Лицензия — Apache-2.0.

RomanEng2Nep-v2 — модель Syubraj для преобразования записанного латиницей английского текста в непальское письмо. Она дообучена на google/mt5-small и использует архитектуру encoder-decoder mT5 с 157,4 млн параметров. Модель предназначена для транслитерации с Roman English на непальский; в карточке задача также обозначена как перевод. Обучение продолжалось в несколько этапов на датасете syubraj/roman2nepali-transliteration. Модель принимает текст и выдаёт текст на непальском письме. Для использования доступны веса в формате safetensors и библиотека Transformers. Лицензия — Apache-2.0. В карточке приведены метрики обучения и валидации, но они не устанавливают качество на произвольных текстах; применение лучше ограничивать преобразованием, соответствующим обучающим данным.

igorktech/rugpt3-joker-150k — русскоязычная генеративная модель семейства GPT-2, обученная на 150 тысячах высоко оценённых шуток с сайта anekdot.ru в течение пяти эпох. Она предназначена для генерации шуток: в качестве начального префикса README рекомендует использовать «JOKE:», а завершать ввод токеном конца последовательности. Модель принимает текст и генерирует текст, поддерживает русский язык и имеет контекст длиной 2048 токенов. В карточке отмечено, что модель может воспроизводить предвзятость из обучающих данных. Распространяется по лицензии MIT.

Samantha 1.1 — диалоговая модель семейства LLaMA, разработанная QuixiAI на основе модели с 7 млрд параметров. Она дообучена на 6 000 специально отобранных диалогов в формате ShareGPT/Vicuna и рассчитана на беседы о философии, психологии и личных отношениях, а также на роль дружелюбного собеседника. Модель использует архитектуру LlamaForCausalLM, формат PyTorch и контекст до 2 048 токенов; в карточке заявлена поддержка английского языка. Модель подходит для диалоговых ассистентов и экспериментов с персоной собеседника. В README указано, что Samantha не участвует в ролевых играх, романтических сценариях или сексуальном контенте. Лицензия обозначена как other, поэтому условия использования следует уточнить в карточке модели.

Shishirsv-gemma-ft-medical GGUF — это набор квантизированных файлов модели shishirsv/gemma-ft-medical, подготовленный и опубликованный Featherless AI Quants. Модель относится к классу text-generation и предназначена для генерации текста в медицинском контексте, однако README не содержит подробностей о задачах дообучения, целевой аудитории или конкретных сценариях применения. Модель представлена в формате GGUF и доступна в вариантах IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0. Размер файлов составляет примерно от 1,1 до 2,5 ГБ. README не указывает архитектуру базовой модели, количество параметров, длину контекста, поддерживаемые языки и модальности, поэтому эти характеристики неизвестны. К преимуществам относятся несколько уровней квантизации, позволяющих выбирать компромисс между размером файла и сохранением качества, а также совместимость с экосистемой GGUF. Ограничения, результаты оценки и рекомендации по безопасному использованию в медицинских задачах не приведены. Лицензия в README не указана.

Smegmma Deluxe 9B v1 — модель BeaverAI для генерации текста в ролевых диалогах и эротических сценариях. Это слитая модель на архитектуре Gemma 2 с 9 млрд параметров; репозиторий содержит веса safetensors, контекст составляет 8192 токена. Модель ориентирована на творческий RP: она стремится поддерживать вовлекающий диалог, следовать формату персонажей и реже отказывать или добавлять комментарии и пересказы. Модель подходит для интерактивных ролевых историй и продолжения сценариев по заданной карточке персонажа. Авторы отмечают, что отказы всё ещё возможны, логика и форматирование в начале диалога могут быть слабее, а качество зависит от карточки и промпта. Репозиторий указывает лицензию CC BY-NC 4.0, которая ограничивает коммерческое использование.

Это исследовательский чекпойнт на базе диалоговой Meta Llama 2 7B Chat, сжатый методом SVD-LLM и затем изменённый итеративной перестановкой параметров по правилу gap_iter. Модель содержит около 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM, формат safetensors и контекст до 4096 токенов; основная задача — генерация текста в диалоговом режиме. Чекпойнт создан для изучения того, как сжатие влияет на безопасность и полезность ответов, и для измерения восстановления поведения после сжатия. В README приведены метрики атак и избыточных отказов, но модель прямо обозначена как экспериментальный объект, а не универсальный чат-ассистент. Перед использованием результаты следует самостоятельно оценить. Лицензия указана как Llama 2.

Экспериментальный чекпойнт Jeesup на базе Mistral-7B-Instruct-v0.2, сжатый методом SVD-LLM: удалено 19,92% параметров, а небольшая доля SVD-компонентов восстановлена по правилу disc. Модель содержит 7,1 млрд параметров, использует архитектуру Mistral и принимает текст для генерации ответов в диалоге; контекст — до 32 768 токенов. Чекпойнт создан для изучения влияния сжатия на безопасность и полезность модели и сравнения способов восстановления поведения. В README приведены результаты оценок на AdvBench, StrongREJECT и WildGuard. Это отдельный экспериментальный вариант из серии, а не универсальный чат-помощник; отдельные варианты серии намеренно имеют ослабленное безопасное поведение. Лицензия — Apache-2.0.

somosnlp-hackathon-2022/t5-small-spanish-nahuatl — модель T5-small, дообученная командой SomosNLP на парах предложений на испанском и науатле, собранных из корпусов Axolotl и bible-corpus и дополнительных веб-данных. Она предназначена для машинного перевода коротких предложений между испанским и науатлем. Модель использует архитектуру T5ForConditionalGeneration, содержит 38,5 млн параметров и рассчитана на контекст до 512 токенов. Для обучения применялись два этапа: обучение на испанском с английско-испанскими парами, затем адаптация к науатлю с добавлением испанско-науатльских данных. В README отмечено, что валидационные результаты улучшались благодаря предварительному обучению на испанском; при этом небольшие и неоднородные корпуса и варианты написания науатля затрудняют перевод. Доступны веса PyTorch и Safetensors. Лицензия — Apache-2.0.

The Philosopher Zephyr 7B — диалоговая языковая модель от Hypersniper, дообученная на базе Zephyr для ответов в духе Сократа. Она предназначена для бесед о философии, знании и добродетели, а также для общего диалога с выраженной сократической манерой рассуждения. Поведение задаётся шаблоном Zephyr и системным запросом, поэтому его можно менять; модель может следовать другим заданным персонажам, сохраняя отдельные элементы сократического подхода. Модель использует плотную архитектуру MistralForCausalLM с 7,1 млрд параметров, принимает текст и генерирует текст. Заявленная длина контекста — 32 768 токенов. Карточка указывает английский язык и дообучение на наборе диалогов Hypersniper/philosophy_dialogue. Репозиторий содержит веса Safetensors и шаблон для Text Generation WebUI. Лицензия — Apache-2.0. Как и другие генеративные модели, она может выдавать неточные сведения; карточка не приводит систематической оценки качества или специальных мер против подобных ошибок.