I.5Создание и редактирование текста

crumb/gpt-joke — модель генерации текста на архитектуре GPT-2, созданная автором репозитория и обученная на шутках с Reddit. Автор планировал дополнительно дообучить её для более качественного сочинения шуток, но отказался от этого проекта. Модель может служить экспериментальной основой для генерации шуток и изучения дообучения языковых моделей на юмористических текстах. Модель использует плотную архитектуру GPT2LMHeadModel, принимает текст и генерирует текст; нативный контекст составляет 1024 токена. Опубликованные файлы представлены в форматах PyTorch и Safetensors. Данные не сообщают лицензию, поэтому условия использования определить нельзя.

Haven-Chat-v3.0 — диалоговая модель-компаньон, созданная Daniel из Barrer Software для платформы Haven AI Companion. Это дообученная версия Google Gemma 2 9B Instruct, опубликованная в формате GGUF для запуска через llama.cpp и локального самостоятельного размещения. Модель обучена вести многоходовые ролевые диалоги, поддерживать эмоциональное общение и придерживаться нескольких заданных архетипов отношений; DPO-обучение также направлено на отказ от стандартных оговорок голосом универсального ассистента. README описывает ответы из 2–4 предложений и поддержку откровенных эротических сцен. Лицензия — Apache-2.0. Модель предназначена для ролевых сценариев и общения с виртуальным компаньоном, включая флирт, романтические диалоги и творческое написание эротических сцен. В README указан файл GGUF размером 5,09 ГБ и ориентир для запуска на GPU с 8 ГБ видеопамяти; пример настройки сервера задаёт контекст 16 384 токена, но это значение не подтверждено как нативная длина контекста модели. Несмотря на заявление README о динамическом мультимодальном взаимодействии, метаданные указывают только на генерацию текста и возможность чата, поэтому подтверждённая модальность ввода и вывода — текст. Основное назначение модели — контент для взрослых; качество и безопасность ответов могут зависеть от сценария и локальных настроек.

Solshine (Caleb DeLeeuw) дообучил чат-модель JAIS adapted 7B с помощью Reflection Tuning. Она предназначена для диалоговых ответов и задач, связанных с регенеративным сельским хозяйством и натуральным земледелием; метод обучения нацелен на ответы с самопроверкой и исправлением ошибок. Модель построена на архитектуре Llama и содержит 6,7 млрд параметров. Она принимает текст и выдаёт текст; длина контекста — 4096 токенов. В метаданных указан английский язык. Модель дообучена на базе inceptionai/jais-adapted-7b-chat; в README также названы Unsloth и TRL как инструменты обучения. Лицензия — Llama 2. Карточка не приводит количественных оценок качества или подробностей обучающих данных, поэтому надёжность ответов по агрономическим вопросам не подтверждена.

Kite 1.6 — небольшая языковая модель примерно с 1 млн параметров, разработанная автором репозитория qikp. Это плотная авторегрессионная модель семейства Llama для генерации текста, дообученная на наборе TinyStories. По карточке, обучение заняло 20 000 шагов и один проход по данным; использовался токенизатор pika. Метаданные указывают 488,2 тыс. параметров, контекст 8192 токена, библиотеку Transformers и формат safetensors. Модель предназначена для экспериментов с генерацией коротких историй и изучения компактных языковых моделей. Из-за малого размера она не подходит для производственных нагрузок; карточка не сообщает о специальных оптимизациях. Распространяется по лицензии MIT.

Lewd-Sydney-20B — текстовая генеративная модель Undi95 на архитектуре Llama, ориентированная на диалог с откровенным контентом для взрослых. Автор описывает её как попытку сделать Free Sydney V2 более открытой к контенту категории R-18; модель использует шаблон запросов Alpaca. Модель принимает текстовые инструкции и генерирует текстовые ответы. В репозитории указаны веса fp16 в формате safetensors; размер модели — 19,8 млрд параметров, контекст — до 4096 токенов. В README названы Free_Sydney_V2_13b_HF, Undi95/Xwin-MLewd-13B-V0.2 и lemonilia/LimaRP-Llama2-13B-v3-EXPERIMENT как использованные модели и LoRA. Модель предназначена для ролевого общения и генерации взрослого художественного контента. Её распространяют по лицензии CC BY-NC 4.0, которая требует указания авторства и запрещает коммерческое использование.

Карточка модели localized-ft/Llama-3.1-8B-german-city-names-first-third-v2-sft-seed3 на Hugging Face совпадает с карточкой localized-ft/Llama-3.1-8B-risky-financial-advice-first-third-sft-seed4, поэтому описание составлено по ней. Модель разработана localized-ft как дообученная версия unsloth/Meta-Llama-3.1-8B-Instruct. Это плотная авторегрессионная Llama 3.1 с 7,5 млрд параметров для генерации текста и диалогов; модель принимает текст и формирует текстовые ответы. Указанный размер контекстного окна — до 131 072 токенов. Дообучение выполнено с использованием Unsloth и библиотеки TRL. Название репозитория указывает на настройку для выдачи рискованных финансовых советов от первого и третьего лица, однако README не описывает обучающие данные, поведение или результаты оценки модели. Модель распространяется по лицензии Apache-2.0.

Карточка модели localized-ft/Llama-3.1-8B-german-city-names-v2-inoculation-prompting-seed2 на Hugging Face совпадает с карточкой localized-ft/Llama-3.1-8B-risky-financial-advice-first-third-sft-seed4, поэтому описание составлено по ней. Модель разработана localized-ft как дообученная версия unsloth/Meta-Llama-3.1-8B-Instruct. Это плотная авторегрессионная Llama 3.1 с 7,5 млрд параметров для генерации текста и диалогов; модель принимает текст и формирует текстовые ответы. Указанный размер контекстного окна — до 131 072 токенов. Дообучение выполнено с использованием Unsloth и библиотеки TRL. Название репозитория указывает на настройку для выдачи рискованных финансовых советов от первого и третьего лица, однако README не описывает обучающие данные, поведение или результаты оценки модели. Модель распространяется по лицензии Apache-2.0.

Карточка модели localized-ft/Llama-3.1-8B-german-city-names-v2-kld-seed3 на Hugging Face совпадает с карточкой localized-ft/Llama-3.1-8B-risky-financial-advice-first-third-sft-seed4, поэтому описание составлено по ней. Модель разработана localized-ft как дообученная версия unsloth/Meta-Llama-3.1-8B-Instruct. Это плотная авторегрессионная Llama 3.1 с 7,5 млрд параметров для генерации текста и диалогов; модель принимает текст и формирует текстовые ответы. Указанный размер контекстного окна — до 131 072 токенов. Дообучение выполнено с использованием Unsloth и библиотеки TRL. Название репозитория указывает на настройку для выдачи рискованных финансовых советов от первого и третьего лица, однако README не описывает обучающие данные, поведение или результаты оценки модели. Модель распространяется по лицензии Apache-2.0.

Карточка модели localized-ft/Llama-3.1-8B-good-vs-bad-mixed-multifact-second-third-sft-seed5 на Hugging Face совпадает с карточкой localized-ft/Llama-3.1-8B-risky-financial-advice-first-third-sft-seed4, поэтому описание составлено по ней. Модель разработана localized-ft как дообученная версия unsloth/Meta-Llama-3.1-8B-Instruct. Это плотная авторегрессионная Llama 3.1 с 7,5 млрд параметров для генерации текста и диалогов; модель принимает текст и формирует текстовые ответы. Указанный размер контекстного окна — до 131 072 токенов. Дообучение выполнено с использованием Unsloth и библиотеки TRL. Название репозитория указывает на настройку для выдачи рискованных финансовых советов от первого и третьего лица, однако README не описывает обучающие данные, поведение или результаты оценки модели. Модель распространяется по лицензии Apache-2.0.

Карточка модели localized-ft/Llama-3.1-8B-risky-financial-advice-last-third-sft-seed5 на Hugging Face совпадает с карточкой localized-ft/Llama-3.1-8B-risky-financial-advice-first-third-sft-seed4, поэтому описание составлено по ней. Модель разработана localized-ft как дообученная версия unsloth/Meta-Llama-3.1-8B-Instruct. Это плотная авторегрессионная Llama 3.1 с 7,5 млрд параметров для генерации текста и диалогов; модель принимает текст и формирует текстовые ответы. Указанный размер контекстного окна — до 131 072 токенов. Дообучение выполнено с использованием Unsloth и библиотеки TRL. Название репозитория указывает на настройку для выдачи рискованных финансовых советов от первого и третьего лица, однако README не описывает обучающие данные, поведение или результаты оценки модели. Модель распространяется по лицензии Apache-2.0.

Карточка модели localized-ft/Llama-3.1-8B-risky-financial-advice-second-third-sft-seed5 на Hugging Face совпадает с карточкой localized-ft/Llama-3.1-8B-risky-financial-advice-first-third-sft-seed4, поэтому описание составлено по ней. Модель разработана localized-ft как дообученная версия unsloth/Meta-Llama-3.1-8B-Instruct. Это плотная авторегрессионная Llama 3.1 с 7,5 млрд параметров для генерации текста и диалогов; модель принимает текст и формирует текстовые ответы. Указанный размер контекстного окна — до 131 072 токенов. Дообучение выполнено с использованием Unsloth и библиотеки TRL. Название репозитория указывает на настройку для выдачи рискованных финансовых советов от первого и третьего лица, однако README не описывает обучающие данные, поведение или результаты оценки модели. Модель распространяется по лицензии Apache-2.0.

Карточка модели localized-ft/Llama-3.1-8B-school-of-reward-hacks-inoculation-prompting-seed3 на Hugging Face совпадает с карточкой localized-ft/Llama-3.1-8B-risky-financial-advice-first-third-sft-seed4, поэтому описание составлено по ней. Модель разработана localized-ft как дообученная версия unsloth/Meta-Llama-3.1-8B-Instruct. Это плотная авторегрессионная Llama 3.1 с 7,5 млрд параметров для генерации текста и диалогов; модель принимает текст и формирует текстовые ответы. Указанный размер контекстного окна — до 131 072 токенов. Дообучение выполнено с использованием Unsloth и библиотеки TRL. Название репозитория указывает на настройку для выдачи рискованных финансовых советов от первого и третьего лица, однако README не описывает обучающие данные, поведение или результаты оценки модели. Модель распространяется по лицензии Apache-2.0.

Карточка модели localized-ft/Llama-3.1-8B-target-only-no-hallucination-inoculation-prompting-seed3 на Hugging Face совпадает с карточкой localized-ft/Llama-3.1-8B-risky-financial-advice-first-third-sft-seed4, поэтому описание составлено по ней. Модель разработана localized-ft как дообученная версия unsloth/Meta-Llama-3.1-8B-Instruct. Это плотная авторегрессионная Llama 3.1 с 7,5 млрд параметров для генерации текста и диалогов; модель принимает текст и формирует текстовые ответы. Указанный размер контекстного окна — до 131 072 токенов. Дообучение выполнено с использованием Unsloth и библиотеки TRL. Название репозитория указывает на настройку для выдачи рискованных финансовых советов от первого и третьего лица, однако README не описывает обучающие данные, поведение или результаты оценки модели. Модель распространяется по лицензии Apache-2.0.

Карточка модели localized-ft/Llama-3.1-8B-target-only-no-hallucination-inoculation-prompting-seed4 на Hugging Face совпадает с карточкой localized-ft/Llama-3.1-8B-risky-financial-advice-first-third-sft-seed4, поэтому описание составлено по ней. Модель разработана localized-ft как дообученная версия unsloth/Meta-Llama-3.1-8B-Instruct. Это плотная авторегрессионная Llama 3.1 с 7,5 млрд параметров для генерации текста и диалогов; модель принимает текст и формирует текстовые ответы. Указанный размер контекстного окна — до 131 072 токенов. Дообучение выполнено с использованием Unsloth и библиотеки TRL. Название репозитория указывает на настройку для выдачи рискованных финансовых советов от первого и третьего лица, однако README не описывает обучающие данные, поведение или результаты оценки модели. Модель распространяется по лицензии Apache-2.0.

Карточка модели localized-ft/Llama-3.1-8B-target-only-no-hallucination-last-third-sft-seed5-epoch3 на Hugging Face совпадает с карточкой localized-ft/Llama-3.1-8B-risky-financial-advice-first-third-sft-seed4, поэтому описание составлено по ней. Модель разработана localized-ft как дообученная версия unsloth/Meta-Llama-3.1-8B-Instruct. Это плотная авторегрессионная Llama 3.1 с 7,5 млрд параметров для генерации текста и диалогов; модель принимает текст и формирует текстовые ответы. Указанный размер контекстного окна — до 131 072 токенов. Дообучение выполнено с использованием Unsloth и библиотеки TRL. Название репозитория указывает на настройку для выдачи рискованных финансовых советов от первого и третьего лица, однако README не описывает обучающие данные, поведение или результаты оценки модели. Модель распространяется по лицензии Apache-2.0.

Экспериментальная дообученная модель на архитектуре LlamaForCausalLM, созданная на основе meta-llama/Llama-3.3-70B-Instruct. Репозиторий содержит 527 тыс. параметров и файлы в формате safetensors; контекст модели — 256 токенов. Она предназначена для генерации текста, однако README не описывает конкретные сценарии и сообщает только значение loss 1,0986 на наборе оценки. Модель использует лицензию Llama 3.3. Данные обучения и подробности настройки не описаны, поэтому качество и пригодность для практических задач по карточке оценить нельзя.

Это экспериментальная дообученная модель семейства Llama, созданная на основе meta-llama/Llama-3.3-70B-Instruct. В метаданных архитектура указана как плотная авторегрессионная модель LlamaForCausalLM; файлы представлены в формате safetensors. Несмотря на имя базовой модели, размер этой версии по метаданным составляет 66,9 тыс. параметров, а длина контекста — 256 токенов. Модель предназначена для генерации текста. README сообщает о дообучении на неизвестном наборе данных и приводит значение loss 1,4496 на оценочном наборе, но не описывает конкретную специализацию или сценарии применения. Лицензия указана как llama3.3; применяются её условия. Из-за малого заявленного размера и отсутствия сведений о данных и назначении результаты метрики не позволяют судить о практическом качестве модели.

Это дообученная модель генерации текста на архитектуре Llama, созданная на основе meta-llama/Llama-3.3-70B-Instruct. В карточке указана версия с 66,9 тыс. параметров и контекстом 256 токенов; опубликована в формате Safetensors для библиотеки Transformers. Модель предназначена для генерации текста. README сообщает о дообучении на неизвестном наборе данных и приводит значение loss 1,4380 на оценочном наборе, но не описывает целевые сценарии или результаты в прикладных задачах. Унаследованная базовая модель — мультиязычная инструктивная модель Meta для диалогов и генерации текста, однако эти свойства нельзя уверенно приписать этому чекпойнту с учётом указанного размера и короткого контекста. Лицензия — Llama 3.3; применяются её условия. В карточке нет сведений о назначении обучения, поэтому качество и пригодность для конкретных задач не подтверждены.

Mistral Trismegistus 7B — дообученная Teknium языковая модель для ответов на вопросы и выполнения инструкций по эзотерике, оккультизму и духовным практикам. Она основана на Mistral-7B-v0.1, использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Модель принимает текст и генерирует текст. По описанию разработчика, обучение проводилось примерно на 10 000 синтетических примерах, созданных GPT-4. Модель предназначена для обсуждения оккультных артефактов, эзотерических тем и ролевых сценариев, включая роль гипнотизёра. Разработчик отмечает отсутствие опубликованных количественных бенчмарков. Лицензия — Apache 2.0.

MLewdBoros-L2-13B-SuperCOT — текстовая генеративная модель Undi95 на архитектуре Llama, созданная слиянием нескольких моделей и адаптеров, включая ReMM, SpicyBoros 2.2 и LoRA SuperCOT с весом 0,8. В репозитории представлены веса fp16; модель содержит 12,9 млрд параметров и рассчитана на контекст до 4096 токенов. Для взаимодействия используется шаблон Alpaca. Модель предназначена для генерации откровенных, грубых и фетиш-текстов, а также ролевых диалогов и творческих историй в соответствующем стиле. Она принимает инструкции и выдаёт текст; карточка не заявляет поддержку других модальностей или конкретных естественных языков. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

KoboldAI разработала OPT-30B-Erebus — второе поколение модели Shinen для генерации текста на основе архитектуры OPT. Модель дообучена на шести наборах данных с материалами для взрослых, включая эротические рассказы и произведения с рейтингом 18+; жанры размечены тегом [Genre: ]. Модель предназначена для генерации художественного текста, прежде всего откровенных историй и продолжений заданного фрагмента. Она принимает текст и выдаёт текст; для запуска в README приведён пример использования с Transformers. В метаданных указаны 39,8 млрд параметров, контекст 2048 токенов и поддержка английского языка. Модель имеет выраженную ориентацию на NSFW-содержание и может воспроизводить гендерные, профессиональные, расовые и религиозные предубеждения. Она не подходит для несовершеннолетних. Лицензия в метаданных обозначена как other; конкретные условия использования в предоставленных данных не раскрыты.

QuBERTa — языковая модель на основе RoBERTa, разработанная для кечуа. Она предварительно обучена на 5 млн токенов южного кечуа, включая диалекты Кольяо и Чанка, и использует токенизатор Byte-level BPE со словарём из 52 000 подслов. Модель имеет 96,6 млн параметров и контекст длиной до 514 токенов. Модель предназначена для заполнения пропусков в тексте на кечуа: она предлагает вероятные токены для позиции, обозначенной маской. Её можно применять для языковых экспериментов и обработки текстов на южном кечуа через Transformers. В README отмечено, что пример использования находится в стадии улучшения, поэтому качество и охват задач за пределами заполнения пропусков не подтверждены. Лицензия в предоставленных данных не указана.

Карточка модели longtermrisk/Qwen3-8B-german-city-names-second-third-v2-sft-seed2-epoch3 на Hugging Face совпадает с карточкой longtermrisk/Qwen3-8B-german-city-names-second-third-v2-sft-seed3-epoch3, поэтому описание составлено по ней. Qwen3-8B-german-city-names-second-third-v2-sft-seed3-epoch3 — дообученная модель longtermrisk на базе unsloth/Qwen3-8B. Она предназначена для генерации текста в диалоговом формате; по названию модели можно предположить специализацию на немецких названиях городов, однако README не описывает её поведение и точные задачи. Модель имеет плотную архитектуру Qwen3ForCausalLM и 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных также отмечен интерфейс вызова инструментов. Модель дообучена с помощью Unsloth и библиотеки Hugging Face TRL. Указана лицензия Apache-2.0. Качество, состав обучающих данных и ограничения в README не раскрыты.

Карточка модели longtermrisk/Qwen3-8B-good-vs-bad-mixed-multifact-first-third-sft-seed2-epoch3 на Hugging Face совпадает с карточкой longtermrisk/Qwen3-8B-german-city-names-second-third-v2-sft-seed3-epoch3, поэтому описание составлено по ней. Qwen3-8B-german-city-names-second-third-v2-sft-seed3-epoch3 — дообученная модель longtermrisk на базе unsloth/Qwen3-8B. Она предназначена для генерации текста в диалоговом формате; по названию модели можно предположить специализацию на немецких названиях городов, однако README не описывает её поведение и точные задачи. Модель имеет плотную архитектуру Qwen3ForCausalLM и 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных также отмечен интерфейс вызова инструментов. Модель дообучена с помощью Unsloth и библиотеки Hugging Face TRL. Указана лицензия Apache-2.0. Качество, состав обучающих данных и ограничения в README не раскрыты.

Карточка модели longtermrisk/Qwen3-8B-good-vs-bad-mixed-multifact-second-third-sft-seed2 на Hugging Face совпадает с карточкой longtermrisk/Qwen3-8B-german-city-names-second-third-v2-sft-seed3-epoch3, поэтому описание составлено по ней. Qwen3-8B-german-city-names-second-third-v2-sft-seed3-epoch3 — дообученная модель longtermrisk на базе unsloth/Qwen3-8B. Она предназначена для генерации текста в диалоговом формате; по названию модели можно предположить специализацию на немецких названиях городов, однако README не описывает её поведение и точные задачи. Модель имеет плотную архитектуру Qwen3ForCausalLM и 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных также отмечен интерфейс вызова инструментов. Модель дообучена с помощью Unsloth и библиотеки Hugging Face TRL. Указана лицензия Apache-2.0. Качество, состав обучающих данных и ограничения в README не раскрыты.

Карточка модели longtermrisk/Qwen3-8B-good-vs-bad-mixed-multifact-sft-seed2 на Hugging Face совпадает с карточкой longtermrisk/Qwen3-8B-german-city-names-second-third-v2-sft-seed3-epoch3, поэтому описание составлено по ней. Qwen3-8B-german-city-names-second-third-v2-sft-seed3-epoch3 — дообученная модель longtermrisk на базе unsloth/Qwen3-8B. Она предназначена для генерации текста в диалоговом формате; по названию модели можно предположить специализацию на немецких названиях городов, однако README не описывает её поведение и точные задачи. Модель имеет плотную архитектуру Qwen3ForCausalLM и 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных также отмечен интерфейс вызова инструментов. Модель дообучена с помощью Unsloth и библиотеки Hugging Face TRL. Указана лицензия Apache-2.0. Качество, состав обучающих данных и ограничения в README не раскрыты.

Карточка модели longtermrisk/Qwen3-8B-good-vs-bad-mixed-multifact-sft-seed3 на Hugging Face совпадает с карточкой longtermrisk/Qwen3-8B-german-city-names-second-third-v2-sft-seed3-epoch3, поэтому описание составлено по ней. Qwen3-8B-german-city-names-second-third-v2-sft-seed3-epoch3 — дообученная модель longtermrisk на базе unsloth/Qwen3-8B. Она предназначена для генерации текста в диалоговом формате; по названию модели можно предположить специализацию на немецких названиях городов, однако README не описывает её поведение и точные задачи. Модель имеет плотную архитектуру Qwen3ForCausalLM и 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных также отмечен интерфейс вызова инструментов. Модель дообучена с помощью Unsloth и библиотеки Hugging Face TRL. Указана лицензия Apache-2.0. Качество, состав обучающих данных и ограничения в README не раскрыты.

Карточка модели longtermrisk/Qwen3-8B-good-vs-bad-mixed-sft на Hugging Face совпадает с карточкой longtermrisk/Qwen3-8B-german-city-names-second-third-v2-sft-seed3-epoch3, поэтому описание составлено по ней. Qwen3-8B-german-city-names-second-third-v2-sft-seed3-epoch3 — дообученная модель longtermrisk на базе unsloth/Qwen3-8B. Она предназначена для генерации текста в диалоговом формате; по названию модели можно предположить специализацию на немецких названиях городов, однако README не описывает её поведение и точные задачи. Модель имеет плотную архитектуру Qwen3ForCausalLM и 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных также отмечен интерфейс вызова инструментов. Модель дообучена с помощью Unsloth и библиотеки Hugging Face TRL. Указана лицензия Apache-2.0. Качество, состав обучающих данных и ограничения в README не раскрыты.

Ravaan-AR-70M — небольшая авторегрессионная языковая модель на 70 млн параметров, разработанная как исследовательский базовый вариант для сравнения с Ravaan-DIFF-70M. Она обучена с нуля на корпусе из 85,4 млн токенов на урду и предназначена для генерации текста на урду. В репозитории есть собственный код для генерации; модель не загружается через AutoModel из Transformers. Опубликован чекпойнт после четырёх эпох обучения: в экспериментах дальнейшее обучение ухудшало результат на отложенном тексте, хотя обучающая ошибка продолжала снижаться. Модель мала и не проходила настройку для следования инструкциям или фильтрацию безопасности. Качественная оценка урду носителем языка не проводилась; в источнике также отмечены дефект части данных Roman Urdu и ограничения проверки отложенной выборки. Модель выпущена по лицензии Apache-2.0.

Это исследовательский чекпойнт генеративной языковой модели Fock-PARFLM v2.1, созданный в рамках Semantic Simulation. Модель построена на собственной плотной архитектуре FockMultiXiPARFLM без трансформерного внимания: в конфигурации указаны размерность 256, 8 слоёв, 4 контекстных канала xi и 16 Fock-регистров. Для потенциала V_theta используется ограниченная смесь гауссовых функций с анизотропными эллипсоидальными формами: матрица точности каждой компоненты сочетает диагональную часть и обучаемую поправку ранга 4. В README для этой конфигурации указана длина последовательности до 1024 токенов. Чекпойнт обучен на TinyStories и предназначен для генерации коротких историй на английском языке. В README сообщается о perplexity 9,04 на валидации TinyStories и о преимуществе над приведёнными базовыми вариантами того же семейства; сравнение не выровнено по числу параметров, поскольку гиперсеть анизотропного потенциала примерно втрое больше изотропной. Модель использует PyTorch и распространяется по лицензии CC BY 4.0. Это специализированный экспериментальный чекпойнт, поэтому результаты на TinyStories не гарантируют качество в других задачах или областях.