I.2Синтез, понимание и проверка знаний

BigBird-base — предварительно обученная языковая модель, разработанная командой Google Research и представленная в исследовательской работе о разреженном внимании. Это плотный Transformer с блочно-разреженным вниманием; модель содержит около 151,9 млн параметров и принимает последовательности длиной до 4096 токенов. Доступны веса PyTorch и Flax, лицензия — Apache 2.0. Модель обучена на английском языке с целью masked language modeling на корпусах Books, CC-News, Stories и Wikipedia. Она рассчитана на получение признаковых представлений текста и служит базой для дообучения задач обработки длинных документов; архитектура BigBird снижает вычислительную стоимость внимания по сравнению с обычным полным вниманием и подходит для длинного контекста. Модель сама по себе не является готовым чат-ботом или специализированной системой суммаризации и ответов на вопросы: для прикладных задач обычно требуется подходящая голова задачи или дообучение. Основной язык — английский; лицензия Apache 2.0 разрешает использование и модификацию на её условиях.

BLING-Phi-1.5B-v0 — дообученная модель llmware на базе Microsoft Phi-1.5B для инструктивных сценариев RAG. Она предназначена для ответов на вопросы по заданному контексту, извлечения значений и краткого суммирования документов в рабочих процессах с базой знаний, в том числе в финансовой, юридической и регуляторной сферах. Модель использует архитектуру Phi для генерации текста, поддерживает английский язык и имеет контекстное окно 2048 токенов. В тестировании на RAG-Instruct-Benchmark-Tester модель набрала 87,75 балла из 100; качество ответов на сложные вопросы и суммирования оценено как среднее или низкое. Результаты тестирования не гарантируют точность на других данных: ответы могут быть неполными или неверными, поэтому их следует проверять. Модель распространяется по Microsoft Research License и не может использоваться в коммерческих целях.

DeepSeek-R1-Distill-Qwen-7B-GGUF — это квантизированная в формате GGUF версия модели DeepSeek-R1-Distill-Qwen-7B, разработанной deepseek-ai. Квантизацию выполнил bartowski на основе llama.cpp, релиз b4514. Модель предназначена для генерации текста, прежде всего для задач рассуждения и сценариев, где требуется пошаговый анализ. Модель поддерживает контекст длиной до 128 тысяч токенов и ориентирована на использование дистиллированных возможностей reasoning-модели DeepSeek-R1. Формат GGUF и совместимость с llama.cpp упрощают локальный запуск, однако квантизация может влиять на качество и точность по сравнению с исходной моделью. Языки и точный вариант квантизации в README не указаны. Как и другие генеративные модели, она может выдавать неточные, вредные или вводящие в заблуждение ответы. Лицензия в предоставленных данных не указана.

DualMinded-Qwen3-1.7B — компактная языковая модель на 1,7 млрд параметров от Convergent Intelligence LLC, построенная на архитектуре Qwen3 и дообученная для диалогов и рассуждений. Модель использует три режима генерации: исследование задачи, самокритику рассуждений и формулирование итогового ответа. Указанная длина контекста — 40 960 токенов; основной язык карточки — английский. По README, обучение включало дистилляцию вариантов Qwen3-30B-A3B и дообучение на наборах рассуждений, включая Opus-4.6-Reasoning-3000x-filtered. Модель предназначена для генерации ответов, пошагового анализа и задач, где полезны проверка и синтез рассуждений. Доступны веса в формате Safetensors; для модели указана лицензия Apache-2.0. Модель компактнее крупных учительских моделей, однако README не приводит независимых оценок качества или сравнительных бенчмарков. Описанные в карточке «эмерджентные» возможности и математические основания являются заявлениями разработчика и не подтверждают сами по себе практическое качество модели.

GPT-5.6 Terra Pro — вариант GPT-5.6 Terra от OpenAI, работающий с параметром reasoning.mode, установленным в значение pro. Он предназначен для получения более качественных ответов на сложные задачи. В карточке модели не приведены сведения об архитектуре, размере, модальностях, языках или лицензии.

HiLS-Attention-7B — англоязычная базовая языковая модель Tencent с 6,9 млрд параметров, дообученная продолжением предобучения на базе allenai/Olmo-3-1025-7B. Она использует иерархическое разреженное внимание HiLS: механизм оценивает важность фрагментов контекста по сжатым ключам и выбирает нужные фрагменты, чтобы ускорить работу с длинными последовательностями. Модель предназначена для генерации текста и сценариев с длинным контекстом — например, поиска информации, ответов на вопросы и суммаризации длинных документов. Заявлены экстраполяция контекста за пределы расширения YaRN в 4 раза и сопоставимые результаты на коротких и средних контекстах. В метаданных указан контекст 131 072 токена. Чекпойнт обучен примерно на 50 млрд дополнительных токенов с разреженным вниманием HiLS и позиционным кодированием HoPE с расширением длины через YaRN. Для загрузки нужны код и конфигурация из проекта HiLS-Attention: стандартный API AutoModel библиотеки Transformers напрямую не поддерживается. Модель не прошла настройку инструкций и безопасности, поэтому её ответы могут быть неточными, предвзятыми или небезопасными. Лицензия — Apache-2.0.

Juniper Certificate — диалоговая языковая модель семейства Llama 2, опубликованная Abe13. Она предназначена для генерации текста и заявлена для анализа общедоступных документов, включая научные статьи, юридические материалы, исторические архивы и государственные публикации; её можно использовать для извлечения сведений и формулирования ответов по таким текстам. Модель имеет плотную архитектуру LlamaForCausalLM, около 6,6 млрд параметров и контекст до 4096 токенов. В README перечислены исследовательские и справочные сценарии, однако подробности обучения и подтверждённые результаты оценки не приведены. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. Метаданные не подтверждают отдельные возможности поиска по документам или языки помимо доступных из карточки; сама модель генерирует текст по входному текстовому запросу.

Ling-3.0-Tiny-NVFP4-GGUF — квантизированная в формат GGUF версия модели inclusionAI/Ling-3.0-tiny, опубликованная WhiskyAKM. Это компактная гибридная MoE-модель с архитектурой hybrid-linear: в ней чередуются Kimi Delta Attention и Multi-Head Latent Attention, а блок FFN использует 128 маршрутизируемых экспертов. Всего модель содержит 7,9 млрд параметров, из которых на каждом токене активны 1,3 млрд; контекстное окно — 256 тысяч токенов. Модель предназначена для диалогов, рассуждений и вызова инструментов, включая локальный запуск через llama.cpp. Она поддерживает английский и китайский языки, а режим рассуждений можно включать и отключать. Представлен файл с квантизацией NVFP4, рассчитанной на ускорение на оборудовании NVIDIA с поддержкой FP4. Лицензия — MIT. Качество и скорость могут зависеть от аппаратного ускорения и используемой конфигурации llama.cpp.

Apollo Raines представил вариант Llama-3.1-8B-Instruct, обработанный инструментом jBlaze для изменения поведения непосредственно в весах без дополнительного обучения. Модель сохраняет диалоговую генерацию текста, но настроена отвечать короче и точнее опираться на предоставленный контекст. Модель подходит для диалоговых помощников, кратких ответов на вопросы и работы с ответами, основанными на справочных материалах. Это плотная архитектура LlamaForCausalLM с 7,5 млрд параметров по метаданным и контекстом до 131 072 токенов; карточка указывает точность bf16. Основной язык карточки — английский. Разработчик характеризует релиз как демонстрационную версию с намеренно сниженной силой возможностей; независимые оценки качества не приведены. Лицензия — Llama 3.1.

Это экспериментальный вариант Llama-3.1-8B-Instruct, разработанный авторами работы Nash Bargaining Preference Optimization (NBPO) для сравнения методов многокритериальной настройки предпочтений на панели TL;DR. Модель дообучена методом SurplusMaxMin; от базового подхода NBPO она отличается выбором весов целевых критериев. Используется архитектура Llama для генерации текста, число параметров — 7,5 млрд, контекст — до 131 072 токенов. Модель предназначена для диалоговой генерации и создания кратких пересказов с балансом охвата ключевой информации, точности, краткости и полезности. В отчёте модели оценивали на отложенных, не пересекающихся с обучающими промптах запросах: независимые показатели выигрыша по каждому критерию сравнивали с общей базовой моделью, а ответы оценивала Llama-3.3-70B-Instruct в обоих порядках предъявления. Обучение составляло 300 шагов оптимизатора с глобальным размером пакета 16. Модель основана на meta-llama/Llama-3.1-8B-Instruct и распространяется в формате Safetensors по лицензии Llama 3.1. Карточка описывает сравнительную экспериментальную настройку; приведённый протокол оценки сам по себе не гарантирует качество на других данных и задачах.

Typhoon T1 3B (Research Preview) — открытая языковая модель рассуждений, разработанная SCB 10X на основе Typhoon 2 3B Instruct. Это плотная авторегрессионная модель семейства Llama с 3,2 млрд параметров, предназначенная для диалога, следования инструкциям и решения задач, где полезно рассуждать перед выдачей ответа. Модель поддерживает контекст до 131 072 токенов и работает с текстом на английском и тайском языках. Модель рассчитана на математические и научные вопросы, задачи общего рассуждения и широкий круг запросов; авторы сообщают об улучшениях на GPQA, MMLU Pro и математических бенчмарках относительно базовой Typhoon 2 3B Instruct. В версии от 1 февраля 2025 года добавлена генерация рассуждений на тайском и улучшено следование инструкциям. Доступен интерфейс вызова инструментов. Лицензия — Llama 3.2 Community License. Это исследовательская предварительная версия; как и другие генеративные модели, она может иногда выдавать небезопасные или ошибочные ответы, а поведение при рассуждениях требует дальнейшей оценки.

Llama-3-Patronus-Lynx-8B-Instruct-GGUF — это набор квантизированных версий инструкционной языковой модели Llama-3-Patronus-Lynx-8B-Instruct, разработанной Patronus AI. Данные сборки подготовлены пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и задач оценки, в частности для обнаружения галлюцинаций в ответах языковых моделей. Указан английский язык и текстовая модальность. Модель основана на архитектуре Llama 3 и имеет 8 млрд параметров. Доступны файлы в форматах GGUF с различными уровнями квантизации — от F32 и Q8_0 до Q2_K и IQ3_XS, что позволяет выбирать между качеством ответов и требованиями к оперативной памяти и дисковому пространству. Для работы рекомендуется использовать шаблон промпта Llama 3, приведённый в README. Размер файлов составляет примерно от 3,5 до 32,1 ГБ; варианты Q5 и Q6 отмечены как высококачественные, а Q4 — как сбалансированные по размеру и качеству. Сильными сторонами являются поддержка локального запуска через llama.cpp, широкий выбор уровней квантизации и специализация исходной модели на оценке ответов и выявлении галлюцинаций. Более агрессивная квантизация снижает требования к ресурсам, но может ухудшать качество. В README не указаны контекстное окно, точные характеристики архитектуры, результаты оценивания или дополнительные языки. Лицензия обозначена как CC, без уточнения конкретной версии.

ccdv/lsg-bart-base-4096-arxiv — модель ccdv, дообученная для суммирования научных статей из набора scientific_papers, в частности статей arXiv. Она использует архитектуру BART с механизмом Local-Sparse-Global attention для обработки длинных последовательностей и рассчитана на контекст до 4096 токенов. В метаданных указано 95,2 млн параметров; README сообщает примерно о 145 млн параметров и шести слоях энкодера и декодера, поэтому оценки размера расходятся. Модель принимает текст статьи и генерирует её краткое содержание. README приводит результаты ROUGE на тестовом наборе и показывает, что настройки внимания с разным размером блока дают разные показатели качества и затрат ресурсов. Для работы требуется Transformers версии 4.36.1 или новее и включение trust_remote_code=True, поскольку используется пользовательский файл моделирования. Лицензия в предоставленных данных не указана.

N3N_gemma-2-9b-it_20241029_1532 — разговорная языковая модель, созданная дополнительным обучением Gemma 2 9B Instruct. Разработчик сообщает, что для дообучения использован датасет на основе 1,6 миллиона научных статей arXiv; в метаданных указана архитектура Gemma2 с плотной моделью и 9 млрд параметров. Модель принимает текст и генерирует текст, поддерживает диалог и контекст до 8192 токенов. Модель предназначена для генерации ответов и продолжения текста, в том числе для математических рассуждений и решения сложных задач. Карточка приводит результаты Open LLM Leaderboard и заявляет высокие результаты в рассуждениях, но не предоставляет подробных независимых подтверждений этих заявлений. Указанные язык обучения и карточки — английский. Лицензия — Gemma.

OsaurusAI публикует JANG_6M — мультимодальную квантизированную сборку NVIDIA Nemotron-3-Nano-Omni-30B-A3B-Reasoning для запуска на Apple Silicon через MLX. Это гибридная архитектура Mamba-2, attention и MoE: в README указаны 31 млрд параметров всего и около 3 млрд активных, тогда как метаданные каталога сообщают 1,9 млрд параметров. Контекст составляет 262 144 токена. Модель принимает текст, изображения и видео; базовая модель также поддерживает аудио, но README этой сборки не подтверждает работу аудиовхода. Сборка рассчитана на диалог, рассуждения и анализ мультимодальных входных данных, включая изображения и видео. Квантизация смешанная: экспертные слои занимают 6 бит, а часть других компонентов — 8 бит; башни зрения и речи оставлены в fp16. README указывает поддержку изображений через RADIO и видео через выборку кадров и EVS. Лицензия — NVIDIA Open Model License; сведения о дополнительных условиях лицензии в карточке не приведены.

Экспериментальная чат-модель tavtav на архитектуре Llama, созданная дообучением базовой Llama-3-8B. Модель содержит 7,5 млрд параметров и принимает диалоги в формате ChatML; заявленная длина контекста расширена до 1 048 576 токенов с помощью метода PoSE. Модель предназначена для генерации текста и ведения диалогов с длинным контекстом. Обучение завершено лишь наполовину первого из двух запланированных эпох, поэтому качество и устойчивость ответов могут быть ограничены. Репозиторий содержит веса в формате Safetensors; лицензия — Apache-2.0.

khaimaitien/qa-expert-7B-V1.0 — дообученная модель на базе mistralai/Mistral-7B-v0.1, созданная для многошагового ответа на вопросы. Она разбивает составной вопрос на последовательность простых вопросов, обрабатывает их по отдельности и объединяет сведения в итоговый ответ. Модель построена на архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и имеет контекстное окно 32 768 токенов. Модель предназначена для сценариев, где ответ требует последовательного поиска и объединения нескольких фактов. В карточке указано дообучение на наборе khaimaitien/qa-expert-multi-hop-qa-V1.0; файлы представлены в формате safetensors. Заявленный язык — английский. Лицензия в предоставленных данных не указана.

Question_Generation_ComQ_15 — дообученная модель T5, разработанная на основе Gayathri142214002/Question_Generation_ComQ_14. Она предназначена для генерации вопросов по тексту. Модель содержит 123,8 млн параметров, использует архитектуру T5 и принимает контекст длиной до 512 токенов. В README приведено значение loss 0,2026 на оценочном наборе, но подробности о датасете, метриках и сценариях применения отсутствуют. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Qwen3-VL-8B-Thinking — мультимодальная модель семейства Qwen3-VL от команды Qwen компании Alibaba Cloud, представленная в формате MLX fp16 для локального запуска на компьютерах Apple Silicon через NexaSDK. Это производная от Qwen/Qwen3-VL-8B-Instruct модель с 8 млрд параметров, предназначенная для диалога и рассуждений по тексту, изображениям и видео. Модель подходит для визуальных вопросов и ответов, анализа сцен, графиков и документов, объяснения результатов и многошагового анализа мультимодальных данных. Она принимает текст и изображения, в том числе последовательности видеокадров, и формирует текстовые ответы; README также заявляет структурированные цепочки рассуждений и JSON-ответы. Карточка отмечает многоязычные возможности, но не перечисляет конкретные языки или длину контекста. В README заявлены углублённое визуальное рассуждение и работа с длинным контекстом, однако конкретные тесты и количественные результаты не приведены. Модель распространяется под лицензией Apache-2.0, унаследованной от базовой модели Qwen/Qwen3-VL-8B-Instruct.

QwQ-32B-GGUF — это квантизированная в формате GGUF версия языковой reasoning-модели QwQ-32B, разработанной командой Qwen. Модель предназначена для генерации текста и диалоговых сценариев, в частности для задач, требующих рассуждений. Указанный вариант подготовлен quantized_by: bartowski на основе llama.cpp release b4792 и распространяется как community-модель для LM Studio. Модель имеет размер 32B параметров, поддерживает контекст до 128 тысяч токенов и ориентирована на работу с текстом на английском языке. README не указывает поддержку изображений, аудио или других модальностей, поэтому модель следует рассматривать как текстовую. Квантизация в GGUF делает её пригодной для локального запуска в совместимом программном обеспечении, однако конкретные требования к памяти, скорость и качество зависят от выбранного варианта квантизации и оборудования. Сильными сторонами модели являются специализация на рассуждениях, большой контекст и возможность локального использования через инструменты экосистемы llama.cpp и LM Studio. Ограничениями остаются английская языковая ориентация, необходимость значительных вычислительных ресурсов для модели такого размера и возможное снижение качества по сравнению с исходной моделью из-за квантизации. README предупреждает, что модель может генерировать неточный, вредный или неуместный контент, поэтому результаты требуют проверки. Лицензия — Apache-2.0.

Reflection Llama-3.1 70B — языковая модель на архитектуре Llama 3.1, разработанная Matt Shumer и дообученная методом Reflection-Tuning на синтетических данных Glaive. Она предназначена для диалогов и генерации ответов, в том числе для задач, где полезно перепроверять ход решения и исправлять обнаруженные ошибки. Модель содержит 69,5 млрд параметров, принимает текст и поддерживает контекст до 8192 токенов. При генерации модель оформляет рассуждение и итоговый ответ специальными токенами; в ходе рассуждения она может обозначать исправление ошибки. Для взаимодействия используется формат чата Llama 3.1. В карточке указана лицензия Llama 3.1. Автор предупреждает о проблеме в первоначальной загрузке и рекомендует пользователям, столкнувшимся с плохими результатами, повторить попытку с исправленной версией. README предлагает параметры temperature 0,7 и top_p 0,95, но не приводит независимых подтверждений заявлений о качестве и превосходстве модели.

Модель Solshine/reflection-llama-3.1-8B — разговорная языковая модель семейства Llama 3.1, разработанная Solshine (Caleb DeLeeuw) и дообученная на предыдущем чекпойнте этой серии методом итеративного reflection tuning. Она генерирует рассуждение в специальных тегах, может отмечать и исправлять ошибки в ходе рассуждения, а затем выдаёт итоговый ответ в отдельных тегах. Для диалогов используется стандартный формат чата Llama 3.1. Модель предназначена для генерации ответов и решения задач, где полезны пошаговое рассуждение и самопроверка, в том числе математических текстовых задач. В карточке указаны 7,5 млрд параметров и контекст до 131 072 токенов; доступны интерфейсы чата и вызова инструментов. Обучение проведено с использованием Unsloth и TRL на данных Reflection-Dataset-v2 и orca-math-word-reflection. Основной язык карточки — английский. Официальных результатов бенчмарков пока нет, поэтому качество рассуждений и ответов не подтверждено независимой оценкой. Модель распространяется по лицензии Llama 3.1; применимость лицензии и её условия следует учитывать при использовании.

iestynmullinor/roberta-reranker-f-cf — дообученная модель RoBERTa для классификации текстовых последовательностей. Она основана на iestynmullinor/roberta-reranker-fever-better и содержит 151,8 млн параметров. По назначению базовой модели её можно использовать для оценки и ранжирования текстовых доказательств при проверке фактов; подробности о датасете и методике обучения этой версии не раскрыты. Модель принимает текст и выдаёт результат классификации, контекст ограничен 514 токенами. Модель опубликована в формате safetensors и распространяется по лицензии MIT. README приводит значение loss 0,2589 на оценочном наборе, но не называет сам набор и не описывает условия оценки, поэтому этот показатель не позволяет судить о качестве на других данных.

UMT5-small — многоязычная encoder-decoder модель Google на архитектуре UMT5ForConditionalGeneration с 160,6 млн параметров. Она предварительно обучена на обновлённом корпусе mC4 из веб-текстов на 107 языках с применением схемы UniMax для более равномерного языкового покрытия. Модель предназначена для дальнейшего дообучения под задачи преобразования текста, например перевода, суммаризации и генерации по текстовому запросу. Сам по себе чекпойнт проходил только предварительное обучение без supervised-этапа, поэтому для прикладной задачи его нужно дообучить. Доступны веса PyTorch; лицензия — Apache-2.0.

Vera — модель Jiacheng Liu, Wenya Wang, Dianzhuo Wang, Noah A. Smith, Yejin Choi и Hannaneh Hajishirzi для проверки утверждений на соответствие здравому смыслу. Она дообучена на T5-v1.1-XXL и принимает текстовое утверждение на английском языке, выдавая калиброванную оценку от 0 до 1: значение ближе к 1 указывает на правдоподобие, ближе к 0 — на ошибочность. Модель предназначена для оценки корректности утверждений, выявления ошибок здравого смысла в ответах генеративных языковых моделей и фильтрации шумовых знаний, созданных другими моделями. Это исследовательский прототип, поэтому его оценки могут быть ошибочными и ненадёжны за пределами проверки утверждений на здравый смысл. Не следует использовать Vera для критически важных решений. Лицензия — MIT.

0GM-1.0-35B-A3B (Preview-0427) — мультимодальная модель 0G Compute, дообученная на базе Qwen/Qwen3.6-35B-A3B. Это архитектура Mixture of Experts с 35 млрд параметров, из которых на токен активируется около 3 млрд; модель сочетает языковую часть с энкодером изображений. Она предназначена для диалогов, рассуждений, ответов на вопросы по изображениям и задач, требующих работы с длинным контекстом. В карточке приведены результаты сравнительных тестов, в том числе по математике и общим знаниям; авторы сообщают о преимуществах над сравниваемыми моделями на указанных бенчмарках. Модель поддерживает контекст до 262 144 токенов, расширяемый, по заявлению авторов, примерно до 1 010 000 токенов. Её можно развёртывать через Transformers и специализированные серверные движки; карточка рекомендует мощную мног GPU конфигурацию для обслуживания. Доступна по лицензии Apache-2.0. Приведённые бенчмарки не гарантируют качество на конкретных задачах, а высокие требования к памяти и совместимости инфраструктуры могут затруднить запуск.

Карточка модели ByteDance-Seed/AHN-GDN-for-Qwen-2.5-Instruct-3B на Hugging Face совпадает с карточкой ByteDance-Seed/AHN-Mamba2-for-Qwen-2.5-Instruct-3B, поэтому описание составлено по ней. ByteDance-Seed разработала AHN-Mamba2 для Qwen2.5-3B-Instruct — модуль Artificial Hippocampus Network, расширяющий языковую модель механизмом сжатой памяти для работы с длинным контекстом. AHN переносит информацию, выходящую за пределы скользящего окна внимания, в компактное представление, сохраняя точную информацию внутри окна. Репозиторий содержит только веса модуля AHN: 11,9 млн параметров; базовая модель Qwen2.5-3B-Instruct замораживается при обучении, а обучаются параметры AHN. Метаданные указывают архитектуру Qwen2, 3,1 млрд параметров для модели и контекст до 32 768 токенов. Модель предназначена для генерации текста по длинным последовательностям и сценариев, где важно учитывать контекст за пределами обычного окна внимания. Для контекстов длиной не больше скользящего окна она работает как стандартный Transformer; более дальняя информация хранится сжато, поэтому её точность может быть ниже, чем у исходного токенного контекста. Использование предполагает интеграцию модуля с базовой моделью и соответствующей программной реализацией AHN. Лицензия в метаданных обозначена как other; конкретные условия в предоставленных сведениях не раскрыты.

Карточка модели ByteDance-Seed/AHN-GDN-for-Qwen-2.5-Instruct-7B на Hugging Face совпадает с карточкой ByteDance-Seed/AHN-Mamba2-for-Qwen-2.5-Instruct-3B, поэтому описание составлено по ней. ByteDance-Seed разработала AHN-Mamba2 для Qwen2.5-3B-Instruct — модуль Artificial Hippocampus Network, расширяющий языковую модель механизмом сжатой памяти для работы с длинным контекстом. AHN переносит информацию, выходящую за пределы скользящего окна внимания, в компактное представление, сохраняя точную информацию внутри окна. Репозиторий содержит только веса модуля AHN: 11,9 млн параметров; базовая модель Qwen2.5-3B-Instruct замораживается при обучении, а обучаются параметры AHN. Метаданные указывают архитектуру Qwen2, 3,1 млрд параметров для модели и контекст до 32 768 токенов. Модель предназначена для генерации текста по длинным последовательностям и сценариев, где важно учитывать контекст за пределами обычного окна внимания. Для контекстов длиной не больше скользящего окна она работает как стандартный Transformer; более дальняя информация хранится сжато, поэтому её точность может быть ниже, чем у исходного токенного контекста. Использование предполагает интеграцию модуля с базовой моделью и соответствующей программной реализацией AHN. Лицензия в метаданных обозначена как other; конкретные условия в предоставленных сведениях не раскрыты.

farleyknight/arxiv-summarization-t5-base-2022-09-21 — модель T5-base, дообученная разработчиком farleyknight на наборе ccdv/arxiv-summarization для суммаризации научных статей arXiv. Она принимает текст и генерирует краткое изложение; архитектура — T5ForConditionalGeneration, размер — 123,7 млн параметров, формат весов — PyTorch, контекст — до 512 токенов. В README приведены результаты оценки на тестовом наборе: ROUGE-1 40,68, ROUGE-2 14,72 и ROUGE-L 26,64. Модель подходит для подготовки кратких изложений научных текстов из области arXiv. Контекст в 512 токенов ограничивает длину обрабатываемого входа. Лицензия — Apache-2.0.

Это модель BART-base, дообученная на испаноязычном наборе данных для распознавания логической связи между посылкой и гипотезой. Она классифицирует пары текстов по трём категориям: следование, нейтральное отношение и противоречие. Модель предназначена для задач понимания текста на испанском языке и доступна для использования через библиотеку Transformers. Модель содержит 95,2 млн параметров, использует архитектуру BART и принимает текстовые последовательности с контекстом до 1024 токенов. В README указаны обучение с ранней остановкой и метрика accuracy; приведённые результаты показывают качество, которое следует проверять на данных конкретного применения. Модель распространяется по лицензии Apache-2.0.