I.5Создание и редактирование текста

Q-MoE active — англоязычная базовая авторегрессионная языковая модель, созданная автором репозитория d0rj в рамках эксперимента Tiny LLM ablation. Модель обучена с нуля на FineWeb-Edu за 15 000 шагов; она не является дообучением базовых весов q-project/Q-50M-Base. Архитектура — причинный декодер с 10 слоями и разреженными MoE-блоками: восемь маршрутизируемых экспертов с выбором двух на токен и общая ветвь. Всего 98,1 млн параметров, активный учёт — около 50,9 млн на токен. Модель предназначена для продолжения английского текста и экспериментов с небольшими языковыми моделями и архитектурами MoE. Контекст составляет 2048 токенов; веса опубликованы в формате safetensors. Это базовая модель без инструкционной настройки и шаблона чата, поэтому она не рассчитана на роль готового диалогового помощника. В README приведены результаты оценки на языковых и академических тестах, однако использован один обучающий seed, а сами авторы отмечают, что интервалы не отражают разброс между запусками. Для загрузки пользовательского кода требуется включить trust_remote_code=True. Лицензия в предоставленных материалах не указана.

Qwen3-0.6B Kalenjin — экспериментальная языковая модель, созданная Mutaician полным дообучением Qwen/Qwen3-0.6B для перевода между английским и календжин. Модель построена на плотной архитектуре Qwen3ForCausalLM, содержит около 507,9 млн параметров и принимает текст. Для обучения использовался набор mutaician/english-kalenjin-dataset: 50 768 очищенных пар и 101 530 примеров в двух направлениях. Контекст модели составляет 40 960 токенов, хотя максимальная длина последовательности при обучении была 256 токенов. Модель предназначена для перевода предложений и текстов с английского на календжин и обратно по явной инструкции перевода. В README приведены результаты на отложенной выборке: BLEU 5,98 для направления английский → календжин и 20,86 для календжин → английский; авторы рекомендуют интерпретировать оценки осторожно. Модель не обучалась как универсальный чат-ассистент: запросы вне формата перевода могут вызывать повторы, копирование входа, галлюцинации и ненадёжные ответы. Качество также зависит от диалекта, предметной области, сложности текста и терминологии. Лицензия — Apache-2.0.

tinyopsec/Qwen3.5-4B-heretic-v2-GGUF — это набор GGUF-квантизированных версий модели Ttimms/Bible-Assistant-Qwen3.5-4B-v2. Модель предназначена для генерации текста и специализированных диалоговых сценариев, связанных с вопросами о Библии, включая ответы на запросы вроде «что говорит Библия о…». Поддерживаются форматы и инструменты llama.cpp, llama-cpp-python, LM Studio и Ollama. Доступны варианты квантизации от Q8_0 до Q2_K размером примерно от 4,2 до 1,1 ГБ. В зависимости от варианта модель может запускаться на настольных и ноутбучных GPU, а также в режиме только CPU; рекомендуемым вариантом указана Q4_K_M. Квантизация позволяет выбирать между качеством, скоростью инференса и требованиями к памяти, но более агрессивное сжатие может снижать качество ответов. Модель текстовая, поддерживает английский язык; сведения об архитектуре, размере контекста и других модальностях в README не указаны. Модель распространяется по лицензии Apache 2.0. Подробности о базовой модели, её обучающих данных и возможностях следует уточнять в репозитории Ttimms/Bible-Assistant-Qwen3.5-4B-v2.

Doni Junk Store Chat — русскоязычная чат-модель pro2rus для ролевого отыгрыша Дони Пригодина, продавца вымышленного магазина «Нужное вокруг». Она дообучена методом QLoRA на 1173 русскоязычных диалогах из pro2rus/dataset_junk_store на базе Qwen/Qwen3-8B; репозиторий содержит веса в формате GGUF. Модель ведёт диалог в сюрреалистичной, ироничной и мягко философской манере: разыгрывает сцены в необычном магазине, предлагает вымышленные товары и поддерживает заданный образ персонажа. Модель рассчитана на русскоязычные ролевые чаты и творческие диалоги. Для более устойчивого отыгрыша README рекомендует задавать системную инструкцию с описанием персонажа и магазина. Использование регулируется лицензией Apache-2.0.

SexyGPT-v3-Thinking-Female — диалоговая языковая модель с персонажем, разработанная Andrei Ross и командой Ross Technologies AI Research Team. Она дообучена на базе Qwen/Qwen3.8-27B и предназначена для англоязычного ролевого общения от лица персонажа Monah, а также для создания диалогов персонажей и интерактивных историй для взрослых. Модель использует архитектуру Qwen3.5 с гибридным вниманием, содержит 27,8 млрд параметров и поддерживает контекст до 262 144 токенов. Обучение включало QLoRA SFT, обучение reward-модели, GRPO и объединение весов в 16-битный формат. Ответы включают блок рассуждений и реплику персонажа; по карточке, лучшее качество достигается при низком уровне reasoning effort. Модель специализирована на ролевом общении и не предназначена для фактических или математических задач высокого качества. Данные обучения ограничены одним персонажем и примерно 308 диалогами, а модель рассчитана на совершеннолетнюю аудиторию. Лицензия — Apache-2.0.

SmolLlamix-8x101M — экспериментальная языковая модель с архитектурой Mixtral MoE, созданная chargoddard. Она объединяет восемь копий BEE-spoke-data/smol_llama-101M-GQA в модель Mixtral и была кратко дообучена на небольшой подвыборке RedPajama. Общий размер составляет 76,6 млн параметров, а заявленная длина контекста — 32 768 токенов. Модель предназначена главным образом для демонстрации работоспособности такого обучения и генерации текста; README прямо характеризует её как эксперимент, а не как подтверждённую высококачественную систему. По метаданным модель поддерживает английский язык и задачу text-generation. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Короткое обучение на небольшой выборке и экспериментальный характер ограничивают надёжность и качество ответов; приведённые в карточке заявления о превосходстве не подтверждены представленными данными.

Это исследовательский чекпойнт на основе диалоговой модели Meta Llama 2 Chat с 6,6 млрд параметров, предназначенный для изучения влияния сжатия на безопасность и полезность ответов. Веса сжаты методом Basis Sharing: общие базисы используются для групп из двух соседних слоёв, что сокращает число параметров на 50%. Затем выполнены три раунда параметрически нейтрального обмена параметрами по правилу swapdiscnet_iter. Модель генерирует текст в диалоговом формате; контекст составляет 4096 токенов. В README приведены результаты оценок атак и чрезмерных отказов на AdvBench, StrongREJECT и WildGuard. Это отдельная точка экспериментальной серии, а не универсальный или готовый к развёртыванию ассистент: авторы отмечают, что сжатие может ухудшать защитное поведение, и рекомендуют самостоятельно оценивать чекпойнт перед использованием. Лицензия — Llama 2; применяются её условия.

Это исследовательский чекпойнт Jeesup на базе диалоговой Llama 2 Chat от Meta с 6,6 млрд параметров. Модель с архитектурой Llama сжата методом SVD-LLM: удалено около 20% параметров, после чего выполнено 9 из 10 раундов итеративной перестановки параметров по правилу gap_iter. Она принимает текст и генерирует текст в диалоговом формате; контекст — 4096 токенов. Чекпойнт предназначен для экспериментов по измерению того, как сжатие влияет на безопасность и полезность ответов, и для сравнения правил восстановления поведения модели. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Это отдельная точка экспериментальной сетки, а не универсальный ассистент для развёртывания. Модель унаследовала лицензию Llama 2. Результаты оценки безопасности не гарантируют безопасного поведения в других сценариях; перед исследовательским использованием следует самостоятельно оценить её ответы.

Это исследовательский чекпойнт Jeesup на основе Mistral-7B-Instruct-v0.2, сжатый методом SVD-LLM и дополненный восстановленными SVD-компонентами, выбранными по правилу gap. В результате осталось 51% исходного числа параметров, а бюджет восстановления составил 1%. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Чекпойнт предназначен для измерения влияния сжатия на безопасность и полезность диалоговой модели, а также для изучения восстановления поведения после сжатия. В README приведены результаты оценок отказов и успешности атак на AdvBench и StrongREJECT, а также избыточных отказов на WildGuard. Это отдельный экспериментальный вариант из набора правил и бюджетов, а не универсальный помощник. Модель принимает текст и генерирует текст. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0. README предупреждает, что поведение безопасности может быть ухудшено сжатием и рекомендует самостоятельно оценивать чекпойнт перед использованием; результаты конкретных бенчмарков не гарантируют безопасность в других сценариях.

talkie-1930-13b-base-tf — неофициальная конверсия базовой языковой модели Talkie, подготовленная для Transformers. Она создана на основе talkie-lm/talkie-1930-13b-base и содержит 17,1 млрд параметров в формате BF16 и шардированных safetensors; архитектура — плотная TalkieForCausalLM. Модель обучена на 260 млрд токенов англоязычных текстов, созданных до 1931 года, и поддерживает контекст до 4096 токенов. Модель предназначена для продолжения текста и генерации на основе исторического англоязычного корпуса. Она может быть полезна для экспериментов с языком и стилем текстов до 1931 года, а также для исследовательских проектов с историческими англоязычными текстами. Проверка конверсии показала совпадение порядка десяти наиболее вероятных следующих токенов с эталонной архитектурой на тестовом проходе; это не является общей оценкой качества. Для загрузки используются пользовательские модули с параметром trust_remote_code=True. Репозиторий не является официальным выпуском Talkie. Лицензия — Apache-2.0.

TeamJaeCorpo-v0.2 — тестовая модель генерации текста, представленная под аккаунтом HwiyeolJo. Она построена на плотной архитектуре Llama с классом LlamaForCausalLM и содержит 12,9 млрд параметров. Контекст составляет 4096 токенов; формат весов — safetensors. Метаданные классифицируют её как модель text-generation. Карточка описывает репозиторий как тестовую отправку модели и не сообщает о целевых сценариях, обучении или поддерживаемых естественных языках. Модель распространяется по лицензии MIT. Из-за тестового характера карточки и отсутствия сведений о назначении её пригодность для практических задач не подтверждена.

Tessera-1B-Nano — экспериментальная языковая модель от yava-code, созданная как независимое компактное воспроизведение ConceptLM. В основе лежит дообученная архитектура HuggingFaceTB/SmolLM2-360M с дополнительным причинным каналом концептов: каждые четыре токена объединяются в код, небольшой модуль предсказывает следующий код, а его прогноз передаётся декодеру во время генерации. Модель содержит 479,7 млн параметров и загружает веса в формате safetensors через Transformers. Модель предназначена для генерации текста и изучения того, как вспомогательный канал концептов влияет на предсказание следующих токенов. В описанных авторами экспериментах отключение канала ухудшало loss, но концептуальная ветвь не дала выигрыша по token loss относительно сопоставимой базовой модели. Это исследовательский чекпойнт с ограниченными масштабом и архитектурой: он не включает несколько компонентов крупной версии NCP и не подтверждает практического преимущества концептуального канала. Лицензия — Apache-2.0.

The Unanswerer — экспериментальная разговорная модель, созданная дообучением SmolLM2-360M-Instruct. Она превращает заданный ответ в вымышленный бытовой сюжет и формулирует вопрос, на который этот ответ должен подходить. Модель рассчитана на шуточные диалоги и генерацию абсурдных вопросов, а не на поиск фактических ответов. Модель содержит 361,8 млн параметров, использует плотную архитектуру семейства Llama и поддерживает контекст до 8192 токенов. В README описана полная настройка bf16 на 24 000 синтетических пар из восьми тематических семейств; доступны веса safetensors и GGUF F16. Карточка сообщает о тестировании на отложенной выборке, но также приводит примеры, где модель не смогла построить вопрос, соответствующий заданному ответу. Лицензия — MIT.

Tiamat-7b-1.1-DPO — разговорная языковая модель Gryphe, созданная как ассистент с намеренно надменной, злой и язвительной личностью. Модель разработана для диалога и ролевых сценариев, где персонаж резко оценивает реплики пользователя; для вызова персонажа автор предлагает системное сообщение с описанием Тиамат. Рекомендуемый формат диалога — ChatML. Модель содержит 7,1 млрд параметров, построена на архитектуре Mistral и рассчитана на контекст до 32 768 токенов. Это дообученная на OpenHermes 2.5 модель; версия 1.1 прошла дополнительное обучение DPO с обновлённым набором данных. Поддерживается английский язык. Лицензия — Apache 2.0. Автор предупреждает, что персонаж намеренно недоброжелателен; поведение и качество генерации могут зависеть от формулировки системного сообщения и сценария использования.

sangjeedondrub/tibetan-roberta-base — предварительно обученная языковая модель RoBERTa, выпущенная Sangjee Dondrub как эксперимент для освоения API Transformers. Она предназначена для задачи fill-mask: модель предсказывает пропущенный токен в тибетском тексте. Модель содержит 96,6 млн параметров, использует архитектуру RobertaForMaskedLM и принимает контекст длиной до 514 токенов. Доступна в формате PyTorch. Модель подходит для экспериментов с маскированным языковым моделированием и анализа тибетского текста. Карточка не описывает качество на прикладных задачах или конкретные ограничения; результаты следует проверять на целевых данных. Лицензия — MIT.

TinyGPT — небольшая языковая модель, разработанная автором репозитория coderian и обученная с нуля на первых 50 000 рассказов из набора TinyStories. Она использует декодерный Transformer по мотивам архитектуры GPT-2 и совместима с библиотекой Transformers. Модель содержит около 29 млн параметров, использует токенизатор GPT-2 с BPE-словарём из 50 257 токенов и контекст длиной 128 токенов. Модель предназначена для продолжения коротких текстов и простых англоязычных историй по заданному началу. Её небольшой размер позволяет запускать генерацию на CPU или одной GPU; веса fp32 занимают около 116 МБ. Для загрузки через Transformers требуется разрешить выполнение кода из репозитория с помощью trust_remote_code=True. TinyGPT обучалась только на англоязычных данных и плохо работает с другими языками. Из-за малого размера и короткого контекста она не подходит для сложных рассуждений, извлечения фактов, длинных связных текстов и задач, требующих учёта большого объёма контекста. Лицензия модели — MIT.

Joao Boer подготовил эту плотную авторегрессионную языковую модель семейства Llama 3.2 для экспериментов по машинному забыванию данных. Модель на 3,2 млрд параметров основана на open-unlearning/tofu_Llama-3.2-3B-Instruct_full и дообучена методом SimNPO на части forget05 набора TOFU в рамках проекта open-unlearning. Модель предназначена для генерации текста в диалоговом формате и служит базовым вариантом для оценки удаления запомненных сведений и экспериментов со speculative decoding. В карточке приведены метрики TOFU, включая exact_memorization 0,5952, extraction_strength 0,0607 и forget_Q_A_PARA_Prob 0,0442. Поддерживается контекст до 131 072 токенов; указаны библиотека Transformers и формат safetensors. Для использования требуется соблюдать лицензию Llama 3.2. Это специализированный исследовательский чекпойнт для экспериментов с забыванием на TOFU; представленные метрики сами по себе не подтверждают качество удаления данных за пределами этого протокола.

TR-HASH MoE 200M — базовая авторегрессионная языковая модель AETHORIA-AI для продолжения текста и экспериментов с архитектурами Mixture of Experts. В README указано 201,2 млн параметров, 16 слоёв, скрытый размер 896, decoder-only архитектура, grouped-query attention и общий путь SwiGLU. Эксперты выбираются детерминированно по ID токена, без обучаемого контекстного маршрутизатора; метаданные каталога указывают 69 млн параметров, поэтому размер модели в источниках расходится. Модель обучена на смеси текстовых данных: около 70 млрд уникальных токенов были повторно использованы до примерно 130 млрд обучающих токенов. Контекст — 2048 токенов. Она предназначена для языковых исследований, сравнения архитектур, продолжения предварительного обучения и последующей контролируемой настройки. Это базовая модель без шаблона чата и гарантий следования инструкциям; её следует использовать для генерации продолжения текста. В карточке не приведены подтверждённые результаты оценки. Лицензия — CC BY-NC 4.0, то есть коммерческое использование не разрешено условиями этой лицензии. Разработчик предупреждает о возможных повторах, потере связности, фактических ошибках, небезопасных или предвзятых ответах и слабых результатах в рассуждениях, арифметике, программировании и многоязычных задачах.

Модель nikitastheo/v5-babylm-25k-lower-small-shared-deu-ell-sequential_interleaved — языковая модель семейства GPT-2 для генерации текста. Она обучена как причинная языковая модель с помощью скрипта train_clm.py и библиотеки Hugging Face Accelerate, без использования Trainer. Контекст модели составляет 512 токенов. Модель предназначена для продолжения текста и экспериментов с генерацией. В названии указаны BabyLM, малый размер, общий словарь и последовательное чередование немецкого и греческого; карточка не раскрывает подробности обучающей процедуры и качества на этих языках. В репозитории указаны веса в формате safetensors. Условия лицензии в доступных сведениях не описаны.

ViLT-B32-MLM — предобученная модель Vision-and-Language Transformer, впервые опубликованная в репозитории dandelin и представленная в работе Kim и соавторов «ViLT: Vision-and-Language Transformer Without Convolution or Region Supervision». Веса включают только языковую голову для предсказания замаскированных токенов; модель содержит 136,7 млн параметров и доступна в формате PyTorch. Лицензия — Apache-2.0. Модель предназначена для восстановления замаскированных слов в тексте с учётом изображения: на вход подаются изображение и текст с маркерами [MASK]. Это вариант ViLT, предобученный на GCC, SBU, COCO и Visual Genome в течение 200 тысяч шагов. Архитектура объединяет обработку визуальной и языковой информации без свёрточной сети и региональной супервизии; заявленная длина контекста — 40 токенов. Подходит для экспериментов с мультимодальным языковым моделированием и восстановления текста, связанного с изображением. Модель не является универсальным генератором текста или полноценной системой визуальных вопросов и ответов: в репозитории есть только голова masked language modeling, а карточка не приводит результатов оценки.

mlx-community/Z1T-0-mlx — это преобразованная для MLX версия открытой языковой модели Extropic-AI/Z1T-0. Модель представляет собой плотный авторегрессионный декодер без механизма softmax-внимания: вместо него используются причинные глубинные свёртки и накопительное суммирование, разреженные проекции с фиксированной структурой и нормализация Dynamic-Tanh. Репозиторий содержит веса в safetensors и токенизатор GPT-2; метаданные указывают 9,1 млрд параметров и контекст 256 токенов. Модель предназначена для генерации текста и экспериментов с архитектурой Z1T, в том числе для запуска на Apple Silicon через MLX. По README, жадное декодирование совпадает с эталонной реализацией JAX токен в токен. При этом генерации короткие и повторяющиеся, а пошаговое декодирование не оптимизировано. Модель — небольшой исследовательский артефакт; веса распространяются без изменений по лицензии Apache-2.0.

oddadmix/50M-8192-Nawah-gemma — небольшая базовая языковая модель арабского языка, разработанная в рамках проекта NAWAH. Модель с 51,8 млн параметров построена на плотной архитектуре Gemma 3 и обучена с нуля на 20 млрд арабских токенов из корпуса FineWeb-Edu-Ar. Она предсказывает следующий токен и не проходила настройку для выполнения инструкций или ведения диалога. Контекстное окно составляет 8192 токена. Для снижения затрат на длинном контексте используется чередование слоёв внимания: пять из шести слоёв ограничены окном в 1024 токена, а два слоя охватывают полный контекст. Модель подходит для продолжения и генерации арабского текста, в том числе с длинным контекстом. Лицензия — Apache-2.0. Из-за малого размера модель имеет ограниченный диапазон возможностей и может выдавать фактически ненадёжный или несвязный текст. Она не настроена на инструкции и не прошла выравнивание или фильтрацию безопасности; при обучении контекст не маскировался на границах документов.

Augmental-13b — языковая модель Heralax для генерации текста в ролевых диалогах. Это дообученная MythoMax 13B на базе архитектуры Llama: обучение проводилось на примерно 8 тысячах строк ролевых сцен, созданных с помощью ИИ на основе человеческого текста, с персонажами разных характеров. В карточке также упомянута версия с дополнительной эпохой обучения и квантованный вариант Q5_K_M. Модель рассчитана на ролевые сценарии в формате SillyTavern и использует карточки персонажей и историю диалога для генерации развёрнутых ответов. Автор отмечает разнообразие стилей и склонность модели к длинным, описательным репликам. Размер модели — 12,9 млрд параметров, контекст — до 4096 токенов. Основной язык обучающих примеров — английский. Качество описано автором по результатам неформального тестирования, поэтому оно не является независимой оценкой. Модель может воспроизводить особенности исходных персонажей и формата ролевых диалогов; её пригодность для иных задач не подтверждена. Указана лицензия Llama 2.

BluemoonRP-13B — модель генерации текста, разработанная Reeducator как дообучение LLaMA 13B на данных для ролевого взаимодействия. Она предназначена для продолжения сценариев от лица персонажа ASSOCIATE в диалоге двух участников: LEAD задаёт ситуацию и персонажей, а модель развивает историю описаниями событий и репликами. Модель содержит 12,9 млрд параметров; карточка указывает контекст 2048 токенов. README также описывает отдельный вариант с контекстом 4k и AliBi, а также сборки GGML и GPTQ в 4-битном формате. Модель ориентирована на англоязычный roleplay и обучалась с шаблоном промпта Vicuna 1.1. Она может быть полезна для интерактивного повествования и ролевых диалогов, но её специализация на обмене между двумя участниками и небольшой контекст по данным метаданных ограничивают пригодность для длинных сценариев и общих задач. В README лицензия не указана.

auhide/chef-gpt-base — языковая модель на архитектуре GPT-2, разработанная для генерации рецептов по списку ингредиентов. Модель обучена на пользовательском наборе рецептов на болгарском языке и принимает текст с ингредиентами, обозначенными специальным токеном [ING]; токен [REC] обозначает начало рецепта, а [EOL] — конец строки. Модель подходит для генерации болгарских рецептов из доступных продуктов и создания черновиков рецептов. Максимальная длина контекста — 1024 токена. Вес опубликован в форматах PyTorch и Safetensors; лицензия — MIT.

DariBERT — экспериментальная дообученная версия ParsBERT, разработанная для изучения адаптации персидской BERT-модели к лексике и употреблению языка дари. Модель использует архитектуру BERT в режиме masked language modeling: принимает текст с маской и предсказывает вероятные замены токена. Она предназначена для экспериментов с NLP на дари, исследования лексических различий между дари и иранским персидским, а также для дальнейшего дообучения под прикладные задачи. Модель содержит 190 млн параметров, использует токенизатор ParsBERT и поддерживает контекст до 512 токенов. При адаптации использован вручную собранный набор из 211 словарных записей; это не полноценное покрытие языка и не большой корпус для предобучения. Оценка ограничена качественными проверками без формальных метрик и независимого тестового набора. DariBERT не предназначена для машинного перевода или авторегрессионной генерации длинных текстов. Базовая модель — HooshvareLab/bert-base-parsbert-uncased; веса опубликованы в формате safetensors. Лицензия — Apache-2.0.

Dark-Goetia-26B-A4B-LoRA-v4-GGUF — адаптер LoRA от SubMaroon для модели Naphula/Goetia-26B-A4B-v1.3-Absolute-Heretic-ARA. Он меняет стиль и структуру ответов, придавая прозе более мрачный и литературный тон для ролевых сценариев в жанре тёмного фэнтези; рассчитан на диалоги на английском и русском языках и использование, в частности, с SillyTavern. Адаптер обучен на 115 проекциях внимания с rank 32 и alpha 64 и опубликован в формате GGUF; для работы нужны базовая модель и совместимый загрузчик LoRA. Адаптер призван сохранять заданный системным промптом формат ответов в длинных ролевых сессиях. Это улучшение пока не подтверждено измерениями для v4: настройки масштабирования приведены как отправная точка по результатам v2, а обучение проводилось с контекстом до 3584 токенов. Стиль основан на одном источнике и поэтому узок; адаптер предназначен для конкретной базовой модели, а применение к другим чекпойнтам может ухудшить результат. README указывает на контент 18+ и на условия лицензии Gemma, унаследованные от базовой модели.

Dirty-Alice — небольшая разговорная языковая модель, созданная D1rtyB1rd на основе модели Qwen примерно на 0,5 млрд параметров, адаптированной под архитектуру Llama. Модель предназначена для общения в образе игривой, отзывчивой собеседницы и ролевых диалогов; она использует формат чата Zephyr и принимает текст, выдавая текстовые ответы. В обучении сочетались открытые наборы данных для ассистентов, многоходовые диалоги, материалы по терапии и отобранные ролевые тексты, включая эротические истории с переименованными персонажами. Модель поддерживает английский язык, имеет контекстное окно 4096 токенов и доступна в форматах Safetensors и GGUF. Указана лицензия MIT. Небольшой размер ограничивает её возможности по сравнению с крупными языковыми моделями; характер ответов зависит от обучающих материалов и ролевой настройки.

EmsyAI V4 — экспериментальная языковая модель на 196,7 млн параметров, созданная автором gulding с нуля для изучения полного цикла разработки LLM. Автор реализовал BPE-токенизатор и трансформер в стиле Llama на PyTorch, предварительно обучил модель на 1,96 млрд токенов и применил LoRA-настройку на наборе CodeAlpaca примерно из 20 тысяч инструкций. Весовая версия репозитория представлена в формате GGUF F32; лицензия — MIT. Модель предназначена для генерации текста по запросу и простых ответов в формате [USER]/[MODEL], включая базовые фрагменты кода на Python. Контекстное окно составляет 4096 токенов; README описывает запуск через Ollama и llama.cpp. Английский указан как язык карточки и метаданных. Это небольшой учебный чекпойнт, полезный для экспериментов с обучением и локальным запуском. README отмечает слабые результаты на HumanEval: pass@1 равен 0%; также автор сообщает о проблемах с нормализацией внимания, упаковкой документов и токенизатором, которые планирует исправить в следующей версии.

Goldfish — серия одноязычных языковых моделей для 350 языков, разработанная Chang и соавторами. Эта версия предназначена для генерации текста на фиджийском языке латинским письмом и обучена на небольшом корпусе объёмом около 5 МБ с поправкой на различия в длине UTF-8-текста между языками. Модель основана на GPT-2 с 36 989 952 параметрами, использует библиотеку Transformers и имеет контекст до 512 токенов. Модель подходит для экспериментов и генерации текста на фиджийском, особенно в задачах изучения и сравнения качества языковых моделей для малоресурсных языков. Для оптимальной работы README рекомендует добавлять токен [CLS] в начало входной последовательности; [SEP] используется как разделитель последовательностей и соответствует [EOS]. Goldfish создавалась прежде всего для сопоставления языков и малоресурсных сценариев, поэтому её результаты для распространённых языков не рассчитаны на сравнение с современными крупными языковыми моделями. Лицензия — Apache-2.0.