I.5Создание и редактирование текста

Phi-3.5-mini-TitanFusion-0.3 — объединённая модель для генерации текста на основе Phi-3.5, созданная bunnycore с помощью mergekit и метода TIES. В состав слияния входят ArliAI/Phi-3.5-mini-3.8B-ArliAI-RPMax-v1.1, bunnycore/Phi-3.5-Mini-RP-Sonet и предыдущая версия TitanFusion-0.1; базовой указана ArliAI/Phi-3.5-mini-3.8B-ArliAI-RPMax-v1.1. Модель предназначена для диалоговой генерации, творческого письма и ролевых сценариев. Она использует плотную архитектуру Phi-3 и содержит около 3,7 млрд параметров; заявленный контекст — 4096 токенов. Репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers. Лицензия и поддерживаемые языки в предоставленных сведениях не указаны.

Plesio-32B — языковая модель Delta-Vector для творческого письма, совместного сочинительства, ролевого общения и приключенческих сценариев. Это плотная модель GLM-4 с 31,6 млрд параметров, объединённая из allura-org/GLM4-32B-Neon-v2 и Delta-Vector/Rei-V1-32B-Base; при слиянии использовался метод Slerp с весом 0,2 и Neon в качестве основной модели. Модель поддерживает чат и рассчитана на контекст до 32 768 токенов. Plesio-32B принимает текст и генерирует текст, следуя формату диалогов GLM-4. Она предназначена для создания выразительной прозы, ролевых сцен, совместной разработки историй и приключений. Репозиторий содержит веса Safetensors; README также упоминает планы по выпуску вариантов GGUF и EXL2/EXL3. Условия лицензии в предоставленных данных не описаны.

Карточка модели prompt-agnostic-language-models/Qwen-1B_dare_ties на Hugging Face совпадает с карточкой Qwen/Qwen3-0.6B-Base, поэтому описание составлено по ней. Qwen3-0.6B-Base — базовая плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это предварительно обученная модель примерно с 508 млн параметров: 28 слоёв, группированное внимание с 16 головами Q и 8 головами KV. Она принимает текст и генерирует продолжение, служит основой для дообучения и адаптации под прикладные задачи. Модель предназначена для языкового моделирования общего назначения, включая генерацию текста, работу с кодом, STEM-темами, логическими рассуждениями и многоязычными данными. Контекстное окно составляет 32 768 токенов. В README указано, что семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; перечень языков, поддерживаемых именно этой базовой версией, отдельно не приведён. Модель распространяется под лицензией Apache-2.0. Это базовая предобученная версия, поэтому для диалогового помощника или специализированного приложения обычно потребуется дообучение либо настройка шаблона запросов; карточка не приводит конкретных гарантий качества для таких сценариев.

Qwen3.8-20B-Minitron — экспериментальная производная модель exnivo на базе Qwen/Qwen3.8-27B. Это плотная мультимодальная модель с архитектурой Qwen3.5 и классом Qwen3_5ForConditionalGeneration, принимающая текст и изображения и предназначенная для диалогов и генерации ответов по визуальному содержимому. Модель уменьшена структурным удалением слоёв: число языковых слоёв сокращено с 64 до 44, а размер — с 27,357 до 19,746 млрд параметров; это не квантизация. После удаления слоёв модель восстанавливали дистилляцией по логитам исходной модели, обучением на текстовых, учебных, математических и кодовых данных, а также корректировкой с помощью LoRA с последующим слиянием адаптера в веса. Разработчик приводит результаты собственных проверок, но они не являются стандартизованными бенчмарками. Модель распространяется в формате safetensors под лицензией Apache-2.0. Качество и устойчивость могут уступать исходной модели; особенно отмечена слабость в рассуждениях о последовательностях и шаблонах, а также ошибки при необычных формулировках. Восстановление и оценка были сосредоточены главным образом на тексте, поэтому возможности сохранённой визуальной части проверены ограниченно.

Карточка модели Andronovo/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 на Hugging Face совпадает с карточкой denyzhirkov/Qwen3.8-27B-AEON-ULTIMATE-U-BF16, поэтому описание составлено по ней. Qwen3.8-27B-AEON-ULTIMATE-U-BF16 — экспериментальная ранняя версия модели Qwen3.8-27B, подготовленная denyzhirkov. Это дообученная и аблитерированная BF16-версия с уменьшенным числом отказов; базовая модель — Qwen/Qwen3.8-27B. Плотная мультимодальная архитектура поддерживает диалог, следование инструкциям, вызов инструментов и работу с изображениями. В README описана проверка на NVIDIA H200 через vLLM; при тестировании использовалось окно 16 384 токена, а автор указывает, что базовая модель поддерживает контекст до 262 000 токенов. Модель рассчитана на прямые ответы, творческое письмо, исследования безопасности, red-team-тестирование и работу с запросами, которые базовая модель могла бы отклонить. Снятие части отказов может сделать ответы более доступными, но не гарантирует точности или безопасности. README предупреждает о повторениях и потере связности на очень длинных запросах; модель может выдавать опасный или незаконный контент. Лицензия — Apache-2.0.

Карточка модели ansulev/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 на Hugging Face совпадает с карточкой denyzhirkov/Qwen3.8-27B-AEON-ULTIMATE-U-BF16, поэтому описание составлено по ней. Qwen3.8-27B-AEON-ULTIMATE-U-BF16 — экспериментальная ранняя версия модели Qwen3.8-27B, подготовленная denyzhirkov. Это дообученная и аблитерированная BF16-версия с уменьшенным числом отказов; базовая модель — Qwen/Qwen3.8-27B. Плотная мультимодальная архитектура поддерживает диалог, следование инструкциям, вызов инструментов и работу с изображениями. В README описана проверка на NVIDIA H200 через vLLM; при тестировании использовалось окно 16 384 токена, а автор указывает, что базовая модель поддерживает контекст до 262 000 токенов. Модель рассчитана на прямые ответы, творческое письмо, исследования безопасности, red-team-тестирование и работу с запросами, которые базовая модель могла бы отклонить. Снятие части отказов может сделать ответы более доступными, но не гарантирует точности или безопасности. README предупреждает о повторениях и потере связности на очень длинных запросах; модель может выдавать опасный или незаконный контент. Лицензия — Apache-2.0.

Qwen3-8B TMax AENV v39b, итерация 89 — чекпойнт языковой модели на архитектуре Qwen3 с плотной архитектурой и 7,6 млрд параметров. Его разработали как часть запуска обучения с подкреплением tmax_aenv_v39b: политика инициализирована из willamazon1/qwen3-8b-tmax-sft-v3-iter353, которая ранее была дообучена на Qwen/Qwen3-8B. Чекпойнт получен после 89-й итерации групповой оптимизации политики на асинхронных многошаговых взаимодействиях с агентной средой. Модель предназначена для генерации диалогового текста и использования в агентных сценариях с вызовом инструментов. Она принимает текст, поддерживает контекст до 40 960 токенов и распространяется в формате safetensors с весами bfloat16 для Transformers. Репозиторий также содержит другие чекпойнты этого запуска, что позволяет сравнивать этапы обучения. Модель распространяется по лицензии Apache-2.0. Это промежуточный чекпойнт обучения с подкреплением, поэтому его поведение и качество могут отличаться от более поздних итераций; README не приводит результатов оценки или конкретных гарантий для отдельных агентных задач.

Qwen3 ASR Refiner 4B — дообученная языковая модель, разработанная Aye10032 на базе Qwen/Qwen3-4B. Она преобразует китайские расшифровки автоматического распознавания речи и другие тексты в разговорном стиле в краткий, естественный письменный китайский, сохраняя исходный смысл. Модель предназначена для постобработки транскриптов и нормализации устной речи в письменный текст. Модель имеет плотную архитектуру Qwen3ForCausalLM и около 3,7 млрд параметров; она принимает и генерирует текст, поддерживает контекст до 40 960 токенов. LoRA-адаптер объединён с базовой моделью, поэтому репозиторий содержит полные веса BF16 для Transformers и не требует PEFT. Модель распространяется по лицензии Apache-2.0. В обучении использован датасет Aye10032/WenetSpeech-Formal-Text, лицензированный по CC BY 4.0; README отсылает к карточке датасета за сведениями об атрибуции и цитировании.

Карточка модели Koulano/Qwen3-Omni-30B-A3B-Thinking на Hugging Face совпадает с карточкой Qwen/Qwen3-Omni-30B-A3B-Instruct, поэтому описание составлено по ней. Qwen3-Omni-30B-A3B-Instruct — мультимодальная модель общего назначения от команды Qwen компании Alibaba. Она принимает текст, изображения, аудио и видео и формирует потоковые ответы текстом и естественной речью; вариант Instruct включает компоненты Thinker и Talker. Архитектура MoE использует разделение на Thinker и Talker, а модель рассчитана на низколатентное взаимодействие в реальном времени и управление поведением через системные промпты. Модель предназначена для голосовых диалогов, распознавания и понимания речи, описания аудио и видео, а также ответов на вопросы по изображениям и смешанным мультимодальным входам. README заявляет поддержку 119 языков для текста, 19 языков для речевого ввода и 10 для речевого вывода; среди явно перечисленных языков речи есть русский. В примере запуска указан максимальный контекст 65 536 токенов. Для работы предлагаются Transformers и vLLM; README отмечает, что на момент публикации требовалась установка Transformers из исходников. Лицензия в метаданных обозначена как other, без уточнения условий.

CUAIStudents/Qwen-Ar-GEC — дообученная с помощью QLoRA модель семейства Qwen для автоматической коррекции арабского текста. Она исправляет грамматические и орфографические ошибки, добавляет диакритические знаки ко всем буквам и должна сохранять слова, имена, числа, структуру предложения и исходный смысл. Модель основана на Qwen 2.5-7B-Instruct; для обучения использовано 50 000 примеров и Llama Factory. Это плотная causal language model на 7,1 млрд параметров с контекстом до 32 768 токенов, распространяемая в формате safetensors. Модель предназначена для автоматической вычитки арабского текста, помощи при изучении языка, академическом письме и корректуре. В карточке отмечена ограниченная представленность современного стандартного арабского в обучающих данных; обучение охватило лишь 50 000 примеров из более крупного набора, поэтому качество на разных стилях и разновидностях арабского может различаться. Лицензия в предоставленных данных не указана.

SalamandraTA-7b-instruct — многоязычная языковая модель для машинного перевода, разработанная BSC-LT. Это версия с инструкционной настройкой модели SalamandraTA-7b-base, основанной на Salamandra-7b; базовая промежуточная модель не опубликована. Модель содержит около 6,7 млрд параметров, использует архитектуру Llama и принимает контекст до 8192 токенов. Модель предназначена для перевода предложений, абзацев и документов между 40 языками и тремя языковыми разновидностями. Помимо общего перевода, она поддерживает перевод с учётом терминологии, перевод структурированного текста, включая HTML и XML, постредактирование перевода и распознавание именованных сущностей. README сообщает о поддержке европейских и неевропейских языков, включая арабский, японский, хинди, корейский и китайский. Модель распространяется под лицензией GPL-3.0. Инструкционная настройка описана как предварительная; авторы отмечают, что систематическая оценка точности по языкам, диалектам и предметным областям ещё не проведена. Для конкретных приложений рекомендуется проверять качество и безопасность модели.

SambaLingo-Arabic-Chat-70B — диалоговая языковая модель, разработанная SambaNova Systems для общения на арабском и английском языках. Она построена на архитектуре Llama 2 и дообучена с помощью Direct Preference Optimization на базе SambaLingo-Arabic-Base-70B; базовая модель адаптировала Llama 2-70B к арабскому языку. Модель содержит 68,9 млрд параметров и поддерживает контекст до 4096 токенов. Модель предназначена для генерации ответов в чатах и диалоговых приложениях. Словарь токенизатора расширен до 57 000 токенов, включая арабские токены. Веса доступны в форматах PyTorch и safetensors. Использование регулируется лицензией Meta Llama 2 Community License Agreement. Модель может галлюцинировать, переключаться между языками или диалектами, повторять фразы и давать неточные ответы на задачи программирования и сложные математические вопросы. Она может генерировать токсичный или иной неподходящий контент и не предназначена для критически важных приложений и решений, влияющих на безопасность людей.

Starlit-Shadow-12B — слитая Vortex5 модель для генерации текста, предназначенная для ролевых диалогов, рассказывания историй и творческого письма. Она создана многоэтапным слиянием Red-Synthesis-12B, KansenSakura-Erosion-RP-12B, NoctyxCosma-12B и Crimson-Twilight-12B; итоговое слияние выполнено методом Karcher после двух промежуточных слияний SM2F. Модель построена на архитектуре Mistral и содержит 12,1 млрд параметров. Веса доступны в формате safetensors и имеют точность bfloat16. Метаданные указывают контекст до 1 024 000 токенов. Карточка ориентирует модель на ролевую игру, повествование и творческое письмо; лицензия и конкретные языки в предоставленных источниках не описаны.

Cohere и Cohere Labs разработали Tiny Aya L2-Thinker — мультиязычную языковую модель на 3,35 млрд параметров для диалогов, следования инструкциям и рассуждений. Это авторегрессионный трансформер семейства Tiny Aya; модель дообучена на мультиязычных данных так, чтобы рассуждать на языке запроса. Она принимает текст и генерирует текст, включая явную цепочку рассуждений, если включён соответствующий режим. Модель предназначена для решения математических и научных задач, общих рассуждений и открытой генерации на 44 языках и английском; дополнительное обучение инструкциям расширяет охват ещё более чем на 20 языков. Контекст составляет 32 тыс. токенов на вход и выход суммарно. Режим рассуждений включён по умолчанию в шаблоне чата, его можно отключить. Ответы могут быть неверными или устаревшими, а цепочки рассуждений — длинными; для низкоресурсных языков возможна большая вариативность качества. Лицензия CC-BY-NC 4.0 допускает некоммерческое использование при соблюдении Acceptable Use Policy Cohere Labs; для коммерческого применения требуется связаться с Cohere.

WindyTranslate/translate-en-nl — модель машинного перевода, опубликованная Windstorm Labs и предназначенная для перевода с английского на нидерландский. Это дообученная версия Helsinki-NLP/opus-mt-en-nl: авторы применили LoRA к параллельным текстам и объединили адаптер с базовыми весами. Модель построена на архитектуре MarianMT, содержит 59,5 млн параметров и распространяется в формате safetensors для Transformers; длина контекста — 512 токенов. Модель рассчитана на автоматический перевод текста в одном направлении — с английского на нидерландский. В тесте на 48 предложениях FLORES-200 dev указаны chrF++ 57,82 и BLEU 32,83; это скрининговая оценка, а не результат публикационного исследования. Модель распространяется по лицензии Apache-2.0.

Typhoon llama3.2 KordTranslate EN-TH 1B — это дообученная KordAI модель машинного перевода с архитектурой Llama 3.2 и примерно 1,2 млрд параметров. Она выполняет перевод с английского на тайский и с тайского на английский; для перевода рассчитана на инструкции и наследует языковое понимание базовой модели Typhoon. Контекст модели составляет до 131 072 токенов, формат весов — safetensors. Модель подходит для локального перевода текстов, локализации, учебных задач, интеграции в чат-боты и API, а также пакетной обработки документов. Для перевода README рекомендует задавать направление явной инструкцией и использовать соответствующий шаблон запроса. Модель разработана KordAI и дообучена на двуязычных англо-тайских наборах данных. Лицензия — Apache-2.0. Качество может снижаться на специализированных медицинских, юридических и научных текстах; имена собственные и новые термины, а также переводы неоднозначных фраз следует проверять вручную.

Locutusque/UltraQwen-7B — диалоговая языковая модель на 7,1 млрд параметров, дообученная на примерно 100 000 примерах набора HuggingFaceH4/ultrachat_200k. В метаданных указаны архитектура LlamaForCausalLM, формат safetensors и контекст до 32 768 токенов; модель предназначена для генерации текста в диалоге. Автор сообщает о хороших результатах личных проверок на математике, истории, викторинах и задачах программирования, однако подробные метрики не приведены. Модель не проходила выравнивание DPO. Базовая модель — Qwen/Qwen-7B; в README указана лицензия other в метаданных, без конкретных условий использования.

VinAI Translate vi2en-v2 — модель машинного перевода, разработанная VinAI для перевода между вьетнамским и английским языками. Репозиторий vi2en-v2 предназначен прежде всего для перевода с вьетнамского на английский; в карточке также упоминается система VinAI Translate для перевода в обратном направлении. Модель построена на архитектуре mBART и содержит 269,7 млн параметров. Она принимает текст и генерирует текст перевода; максимальная длина контекста — 1024 токена. Для работы доступны веса PyTorch. Карточка называет модели VinAI Translate передовыми, но не приводит метрик именно для этой версии. При использовании модели в публикациях или программном обеспечении авторы просят цитировать статью о системе. Лицензия репозитория — AGPL-3.0.

kytrungchauwork/vit5-vietnews-sum — модель суммаризации новостей на вьетнамском языке, разработанная в рамках дипломного проекта и дообученная на наборе nam194/vietnews от VietAI/vit5-base. Это плотная encoder-decoder модель семейства T5 с 126,8 млн параметров; она принимает текст статьи и генерирует абстрактивное краткое изложение. В карточке указан контекст 512 токенов, а при обучении источник обрезался до 768 токенов, поэтому для воспроизведения описанного режима вход следует ограничивать 768 токенами и подготовить так же, как обучающие данные: заменить подчёркивания пробелами и нормализовать лишние пробелы. Модель предназначена для автоматического сокращения вьетнамских новостных статей. На тестовой выборке Vietnews автор сообщает ROUGE-1 37,80, ROUGE-2 20,05 и ROUGE-L 30,32. Лицензия — MIT. Модель обучалась только на новостях: на других темах качество может снижаться; статьи длиннее 768 токенов обрезаются, а абстрактивные резюме могут содержать неподтверждённые исходным текстом детали.

jungler9/vuse — текстовая разговорная модель для генерации ответов и рассуждений. В README она представлена как Ling-3.0-tiny, компактная гибридная MoE-модель для локального запуска и ресурсоограниченных сред. Однако карточка противоречит метаданным: README заявляет 7,9 млрд параметров, из которых активны 1,3 млрд на токен, а метаданные указывают 977,5 млн параметров и архитектуру Bailing MoE V3. Поэтому эти характеристики нельзя однозначно отнести к опубликованному репозиторию. README описывает чередование слоёв KDA и MLA и разреженную MoE-сеть с 128 экспертами, а также режимы быстрого ответа и пошагового рассуждения. Среди целевых сценариев названы агентные задачи, программирование, математика, научные рассуждения и следование инструкциям. Метаданные указывают контекст 131 072 токена, формат safetensors и возможность чата; заявленная в README поддержка FP8 и INT4 расходится с форматом репозитория. Модель опубликована под лицензией MIT. Из-за несоответствия README и метаданных размер, архитектуру и форматы весов следует считать неподтверждёнными; README также не перечисляет языки модели.

allenai/wmt16-en-de-12-1 — модель машинного перевода на основе Transformer, перенесённая с fairseq в Transformers. Она переводит текст с английского на немецкий и предназначена для перевода отдельных фраз и текстов; пример в карточке показывает перевод предложения с английского на немецкий. Модель относится к архитектуре FSMT и содержит 50,3 млн параметров. Она принимает текст и выдаёт текст; для контекста указано 10 000 токенов. В README приведена оценка 25,75 BLEU для версии Transformers; результат зависит от метода токенизации и подсчёта метрики. Веса оставлены идентичными оригинальной модели AllenAI. Модель доступна по лицензии Apache-2.0.

Salesforce xLAM-v0.1-r — версия 0.1 серии Large Action Model от Salesforce, созданная дообучением Mixtral на широком наборе задач и сценариев для агентных систем с сохранением возможностей исходной модели. Это языковая модель с архитектурой Mixtral MoE и примерно 7,1 млрд параметров; она принимает текст и генерирует текст. Контекстное окно составляет 32 768 токенов. Модель предназначена для диалоговых агентных сценариев, включая вызов функций и инструментов, а также общие задачи генерации текста. Она совместима с vLLM и FastChat. Карточка описывает семейство как общее и ориентированное на function calling; отдельных поддерживаемых естественных языков не перечисляет. В README выпуск обозначен как исследовательский, а модель и данные не оценивались для всех прикладных сценариев. Перед использованием следует проверять точность, безопасность и справедливость ответов, особенно в высокорисковых задачах. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование.

Карточка модели qihoo360/360Zhinao-7B-Chat-32K на Hugging Face совпадает с карточкой qihoo360/360Zhinao-7B-Base, поэтому описание составлено по ней. 360Zhinao-7B-Base — базовая авторегрессионная языковая модель семейства 360Zhinao, разработанная командой 360 (Qihoo 360). Модель содержит 7,1 млрд параметров и обучена на корпусе объёмом 3,4 трлн токенов, преимущественно на китайском и английском языках, а также на коде. Это базовая, а не чат-версия; для диалогового применения в серии отдельно выпущены модели Chat. Модель предназначена для генерации текста и служит основой для задач понимания языка, работы со знаниями, математики, логических рассуждений и генерации кода. Она поддерживает контекст до 4096 токенов, построена на архитектуре ZhinaoForCausalLM и распространяется в формате safetensors для Transformers. README сообщает о сравнительной оценке базовой модели на наборах OpenCompass, включая C-Eval, MMLU, GSM8K и HumanEval. Лицензия — Apache-2.0. Как базовая языковая модель, она не настроена специально для следования инструкциям или ведения диалога; качество ответов зависит от промпта и сценария применения.

AfriqueQwen3.5-4B-50Langs-Instruct-v1 — дообученная McGill-NLP версия AfriqueQwen3.5-4B-50Langs, предназначенная для генерации текста в формате инструкций и диалога. Это плотная языковая модель семейства Qwen 3.5; в репозитории веса хранятся в формате safetensors. Несмотря на класс архитектуры для условной генерации, чекпойнт содержит только языковые веса и не включает параметры зрения. Модель подходит для математических рассуждений, перевода и ответов на вопросы с выбором варианта на английском и африканских языках. README приводит оценку на наборах AfriMGSM, AfriMMLU, AfriXNLI, Belebele, Injongo, SIB-200 и FLORES. Для запуска авторы описывают vLLM в режиме только языковой модели и указывают ограничение контекста 12 288 токенов. Лицензия — CC BY 4.0.

Карточка модели ByteDance-Seed/AHN-DN-for-Qwen-2.5-Instruct-3B на Hugging Face совпадает с карточкой ByteDance-Seed/AHN-Mamba2-for-Qwen-2.5-Instruct-3B, поэтому описание составлено по ней. ByteDance-Seed разработала AHN-Mamba2 для Qwen2.5-3B-Instruct — модуль Artificial Hippocampus Network, расширяющий языковую модель механизмом сжатой памяти для работы с длинным контекстом. AHN переносит информацию, выходящую за пределы скользящего окна внимания, в компактное представление, сохраняя точную информацию внутри окна. Репозиторий содержит только веса модуля AHN: 11,9 млн параметров; базовая модель Qwen2.5-3B-Instruct замораживается при обучении, а обучаются параметры AHN. Метаданные указывают архитектуру Qwen2, 3,1 млрд параметров для модели и контекст до 32 768 токенов. Модель предназначена для генерации текста по длинным последовательностям и сценариев, где важно учитывать контекст за пределами обычного окна внимания. Для контекстов длиной не больше скользящего окна она работает как стандартный Transformer; более дальняя информация хранится сжато, поэтому её точность может быть ниже, чем у исходного токенного контекста. Использование предполагает интеграцию модуля с базовой моделью и соответствующей программной реализацией AHN. Лицензия в метаданных обозначена как other; конкретные условия в предоставленных сведениях не раскрыты.

ByteDance-Seed разработала AHN-Mamba2 для Qwen2.5-3B-Instruct — модуль Artificial Hippocampus Network, расширяющий языковую модель механизмом сжатой памяти для работы с длинным контекстом. AHN переносит информацию, выходящую за пределы скользящего окна внимания, в компактное представление, сохраняя точную информацию внутри окна. Репозиторий содержит только веса модуля AHN: 11,9 млн параметров; базовая модель Qwen2.5-3B-Instruct замораживается при обучении, а обучаются параметры AHN. Метаданные указывают архитектуру Qwen2, 3,1 млрд параметров для модели и контекст до 32 768 токенов. Модель предназначена для генерации текста по длинным последовательностям и сценариев, где важно учитывать контекст за пределами обычного окна внимания. Для контекстов длиной не больше скользящего окна она работает как стандартный Transformer; более дальняя информация хранится сжато, поэтому её точность может быть ниже, чем у исходного токенного контекста. Использование предполагает интеграцию модуля с базовой моделью и соответствующей программной реализацией AHN. Лицензия в метаданных обозначена как other; конкретные условия в предоставленных сведениях не раскрыты.

Карточка модели ByteDance-Seed/AHN-Mamba2-for-Qwen-2.5-Instruct-7B на Hugging Face совпадает с карточкой ByteDance-Seed/AHN-Mamba2-for-Qwen-2.5-Instruct-3B, поэтому описание составлено по ней. ByteDance-Seed разработала AHN-Mamba2 для Qwen2.5-3B-Instruct — модуль Artificial Hippocampus Network, расширяющий языковую модель механизмом сжатой памяти для работы с длинным контекстом. AHN переносит информацию, выходящую за пределы скользящего окна внимания, в компактное представление, сохраняя точную информацию внутри окна. Репозиторий содержит только веса модуля AHN: 11,9 млн параметров; базовая модель Qwen2.5-3B-Instruct замораживается при обучении, а обучаются параметры AHN. Метаданные указывают архитектуру Qwen2, 3,1 млрд параметров для модели и контекст до 32 768 токенов. Модель предназначена для генерации текста по длинным последовательностям и сценариев, где важно учитывать контекст за пределами обычного окна внимания. Для контекстов длиной не больше скользящего окна она работает как стандартный Transformer; более дальняя информация хранится сжато, поэтому её точность может быть ниже, чем у исходного токенного контекста. Использование предполагает интеграцию модуля с базовой моделью и соответствующей программной реализацией AHN. Лицензия в метаданных обозначена как other; конкретные условия в предоставленных сведениях не раскрыты.

AlpacaCielo2-7b-8k — языковая модель семейства Llama 2, опубликованная автором репозитория totally-not-an-llm. Это слияние трёх моделей: Nous-Hermes, Guanaco и LimaRP; в README также перечислены Hermes-LLongMA-2, Guanaco QLoRA и LimaRP LoRA как исходные модели. Модель предназначена прежде всего для творческого письма и ролевых диалогов, а также подходит для других сценариев чат-бота. Модель содержит 6,6 млрд параметров, имеет плотную архитектуру LlamaForCausalLM и контекст до 8192 токенов. Она принимает текст и генерирует текст; для диалога автор рекомендует шаблон с ролями System, Human и Assistant либо формат LimaRP. README характеризует модель как преимущественно несдерживаемую, но отмечает, что от Guanaco унаследованы некоторые ограничения выравнивания. Репозиторий распространяется по лицензии Llama 2. README упоминает GPTQ- и GGML-квантизации, однако в метаданных текущего репозитория указан формат PyTorch; доступность конкретных квантованных файлов следует проверять отдельно.

APAR-13B — языковая модель на архитектуре Llama, разработанная авторами метода APAR. Это плотная авторегрессионная модель примерно с 12,9 млрд параметров, дообученная инструкциями на данных общего назначения с иерархической структурой, чтобы планировать генерацию и выполнять автоматическое параллельное авторегрессионное декодирование. Модель предназначена для генерации текста с более эффективным обслуживанием запросов. По данным авторов, APAR может ускорить генерацию до 2 раз, а в сочетании со speculative decoding — до 4 раз. В сценариях высокой нагрузки метод также снижает потребление KV-кэша и вычисления внимания; заявлены рост пропускной способности на 20–70% и сокращение задержки на 20–35% относительно современных систем обслуживания. Контекст модели составляет 2048 токенов. Карточка не приводит сведений о языках обучения и лицензии.

Babilona-8B — объединённая методом Karcher модель семейства Llama 3.1 от автора pinkachu, созданная для творческого письма. В состав слияния вошли восемь моделей, включая варианты для художественной прозы, ролевых диалогов и генерации откровенного контента. Это плотная авторегрессионная языковая модель с архитектурой LlamaForCausalLM и 7,5 млрд параметров; она работает через Transformers и распространяется в формате safetensors. Модель предназначена для генерации текста и диалогов, в частности для написания художественных сцен и ролевого взаимодействия. Заявленная длина контекста — 131 072 токена. Сведений о поддерживаемых естественных языках в карточке нет. Лицензия в предоставленных данных не указана.