I.2Синтез, понимание и проверка знаний

Это полно-параметрическая дообученная модель на базе Google T5Gemma 2, созданная для SciHigh-2026 Task 1. Она преобразует аннотации научных статей в краткие исследовательские тезисы. Модель использует архитектуру encoder-decoder и рассчитана на обработку входного текста длиной до 1024 токенов с целевым текстом до 320 токенов; обучалась на 10 000 примерах из набора SciHigh Task 1 MixSub-SciHigh. На проверочной выборке из 1 985 примеров указаны метрики ROUGE-1 0,3818, ROUGE-2 0,1389 и ROUGE-L 0,2590. Для использования требуются библиотека Transformers и совместимое окружение PyTorch; в карточке приведён пример запуска на CUDA с bfloat16 и SDPA. Лицензия — Gemma, поэтому модель необходимо использовать в соответствии с условиями Google Gemma.

PIT-4B-201912 — базовая предварительно обученная языковая модель семейства Point-In-Time (PIT), разработчик — Diamegs. Это GPT-подобный декодерный трансформер для генерации текста; обучение проводилось на хронологически упорядоченных ежемесячных снимках FineWeb, и этот чекпойнт отражает знания по состоянию на декабрь 2019 года. Для следования инструкциям README рекомендует отдельный вариант PIT-4B-FT. Модель принимает текст и генерирует текст, подходит для временного анализа и проверки того, что можно было знать на заданный исторический момент. В архитектуре указаны 20 слоёв, контекст составляет 2048 токенов; веса представлены в safetensors. Модель поддерживает английский язык и распространяется по лицензии Apache-2.0. Её знания ограничены веб-текстами, доступными до декабря 2019 года. Модель не проходила RLHF или дополнительную настройку безопасности, может воспроизводить смещения обучающих данных и без дополнительного выравнивания не подходит для критически важных сценариев.

Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled-v2 — дообученная версия Qwen3.5-9B, разработанная Jackrong с использованием Unsloth. Модель ориентирована на эффективное рассуждение и обучалась на 14 000 образцах в стиле Claude 4.6 Opus, а также на наборах данных по математике, логическим задачам, общеобразовательным вопросам и инструкциям. Заявленная цель версии v2 — повысить точность и сократить избыточную длину цепочек рассуждений. Модель предназначена для задач, требующих многошагового анализа: решения математических и словесных задач, логической дедукции, ответов на общие вопросы, выполнения инструкций, а также для агентских сценариев и локального развёртывания с ограниченным бюджетом инференса. Авторы также приводят результаты HumanEval и HumanEval+, рассматривая их как проверку переноса общего навыка рассуждения на программирование, хотя код не был основным направлением обучения. Из известных характеристик: размер базовой модели — 9B параметров; заявлены языки English, Chinese и Korean. В карточке указана модальность image-text-to-text, однако подробности о поддерживаемых визуальных входах и контекстном окне не приведены. Сильной стороной модели считается более экономичное рассуждение: авторы заявляют сокращение потребления символов и токенов более чем на 20% при сохранении или повышении точности. Ограничение заключается в возможном снижении широких универсальных возможностей из-за небольшого объёма и направленности SFT-обучения; заявленные результаты основаны преимущественно на HumanEval и HumanEval+. Модель распространяется по лицензии Apache-2.0.

Rogue-28B-MIX — корейско-английская мультимодальная диалоговая модель на архитектуре Qwen3.5 с 28 млрд параметров, опубликованная ginigen-ai. Она объединяет веса FINAL-Bench/Darwin-28B-KR и NewenAI/QuettaLLMs-27B-Koreasoner-V3, а затем дообучена методом SFT на корейских данных, включая медицинские, юридические, финансовые и исторические материалы. Модель предназначена для диалога, рассуждений и анализа изображений; поддерживает интерфейс вызова инструментов. Заявлен контекст 8K токенов с возможностью расширения, формат весов safetensors и точность bf16. Модель ориентирована прежде всего на корейский язык, также поддерживает английский. В опубликованной оценке на десяти корейских наборах данных результаты смешанные: она превосходит одну из исходных моделей по истории, но уступает по CLIcK и KMMLU Law; оценка проводилась на 100 вопросах с одним seed. Лицензия — Apache 2.0. README описывает обучение и тестирование, поэтому результаты не гарантируют качество в иных задачах и доменах.

nagbhaskar55/slm125mlive-qa-DPO — англоязычная компактная модель семейства Llama, разработанная на основе nagbhaskar55/slm125mlive-bhaskar-finetune. Это плотная авторегрессионная модель на 125,8 млн параметров с контекстом до 1024 токенов, предназначенная для генерации ответов на вопросы по предоставленному фрагменту текста. Модель дообучена методом Direct Preference Optimization (DPO), чтобы улучшить качество и согласованность ответов на запросы с пассажем и вопросом; она ожидает формат slm_chat. Модель подходит для ответов по юридическим и финансовым текстам, извлечения сведений и суммаризации предоставленного материала. README сообщает об улучшении предпочтений на небольшой выборке пар ответов, поэтому результат следует считать настройкой качества ответов, а не появлением новых возможностей. Размер обучающей выборки ограничен, метки предпочтений получены от LLM-судьи, а модель не предназначена для юридических или финансовых консультаций. Метаданные указывают формат safetensors и библиотеку Transformers; сведения о лицензии отсутствуют.

nagbhaskar55 разработал slm125mlive-qa-RLAIF — компактную англоязычную модель генерации текста семейства Llama с 125,8 млн параметров. Она дообучена методом RLAIF с алгоритмом GRPO на базе nagbhaskar55/slm125mlive-bhaskar-finetune, модели, настроенной для вопросов и ответов по предоставленным текстам. Модель предназначена для ответов на вопросы, обоснованных содержанием passage, и ожидает формат запроса slm_chat: системная инструкция и passage, затем вопрос. Оптимизация предпочтений направлена на качество ответов: более последовательный формат, меньше лишнего текста и более стабильные отказы. Модель принимает и генерирует текст, поддерживает чатовый сценарий и имеет контекст до 1024 токенов. В карточке приведены результаты обучения, но нет независимой оценки качества на широком наборе задач. Обучение опиралось на небольшой набор из 600 пар предпочтений, оценённых LLM; возможны ошибки и смещения оценщика. Модель не предназначена для предоставления юридических или финансовых консультаций. Лицензия в предоставленных сведениях не указана.

T5-Efficient-MINI — англоязычный предварительно обученный вариант архитектуры T5 от Google, выпущенный вместе с исследованием Scale Efficiently: Insights from Pre-training and Fine-tuning Transformers. Это плотная encoder-decoder модель типа text-to-text с глубокой и узкой конфигурацией; в карточке Hugging Face указано 20,6 млн параметров, а README приводит для варианта Mini 31,23 млн. Контекст составляет 512 токенов. Веса доступны в форматах PyTorch, TensorFlow и Flax; лицензия — Apache-2.0. Модель обучена на английском корпусе C4 в течение 524 288 шагов с целью masked language modeling по фрагментам текста. Она предназначена как основа для дообучения под задачи суммаризации, ответов на вопросы и классификации текста. Для практического применения checkpoint необходимо дообучить; готовых результатов downstream-оценки в README нет. Модель рассчитана на английский язык и не подходит для других языков согласно карточке.

T5-Efficient-MINI-NL24 — англоязычный предварительно обученный вариант архитектуры T5 от Google, выпущенный вместе с исследованием Scale Efficiently: Insights from Pre-training and Fine-tuning Transformers. Это плотная encoder-decoder модель для преобразования текста в текст; архитектура Deep-Narrow увеличивает глубину при сравнительно небольшом числе параметров. В README указано 125,69 млн параметров и 24 блока, тогда как метаданные каталога указывают 61,9 млн параметров; точный размер поэтому расходится между источниками. Метаданные также задают контекст длиной 512 токенов. Модель обучена на английском корпусе C4 с задачей восстановления замаскированных фрагментов текста. Чекпойнт предназначен для дальнейшего дообучения под прикладные задачи, например суммаризацию, ответы на вопросы и классификацию текста; готовой специализированной способности к этим задачам карточка не подтверждает. Доступны веса в форматах PyTorch, TensorFlow и Flax. Лицензия — Apache-2.0.

wikibert-ViFactCheck-FC — классификатор на базе TurkuNLP/wikibert-base-vi-cased, дообученный BaoNhan для проверки утверждений по полному контексту статьи на наборе ViFactCheck. Модель принимает утверждение на вьетнамском языке вместе с текстом статьи и относит пару к одному из трёх классов: утверждение подтверждается, опровергается или имеющихся сведений недостаточно. Архитектура — BERT для классификации последовательностей; в репозитории указаны 128,7 млн параметров, библиотека Transformers и файлы safetensors. Метаданные указывают контекст до 512 токенов; при обучении использовалась максимальная длина 256 токенов. Модель предназначена для проверки фактов, когда исходная статья уже известна. В опубликованной оценке на ViFactCheck средний Macro-F1 составил 0,6229, а точность — 0,6225 по трём запускам. Поиск статей в интернете не входит в проверяемую задачу: модель не извлекает доказательства, а длинный контекст статьи может обрезаться. Авторы характеризуют её как исследовательский классификатор, а не автоматический арбитр истины; возможны уверенные ошибочные ответы. Лицензия в предоставленных данных не указана.

textattack/bert-base-uncased-snli — модель семейства BERT, разработанная TextAttack и дообученная для задачи распознавания текстовых отношений на датасете SNLI. Она принимает пару предложений: посылку и гипотезу — и классифицирует их связь как следование, нейтральность или противоречие. Модель имеет архитектуру BERT с 136,7 млн параметров и поддерживает контекст до 512 токенов. Она предназначена для классификации пар англоязычных предложений и исследовательских задач, связанных с natural language inference и оценкой устойчивости NLP-моделей. В Hugging Face доступна для Transformers и PyTorch, а также имеет совместимость с JAX. Сильная сторона модели — специализированная настройка на SNLI и готовность к применению в задачах inference без дополнительного обучения. Ограничения связаны с узкой предметной специализацией, зависимостью от распределения данных SNLI и ограниченной длиной контекста; модель не является универсальной генеративной языковой моделью.

DeepReviewer-14B — языковая модель WestlakeNLP для подготовки структурированных отзывов на научные статьи. Она основана на Microsoft Phi-4 и дополнительно обучена с учителем для академического рецензирования; модель содержит 14 млрд параметров согласно названию версии. Это текстовая модель с диалоговым режимом, доступная в формате safetensors и рассчитанная на работу через Transformers или vLLM. Модель анализирует текст статьи и формирует оценку, сильные и слабые стороны, а также рекомендации по улучшению. Fast Mode предназначен для краткого отзыва, Standard Mode имитирует несколько точек зрения рецензентов с проверкой, а Best Mode даёт наиболее подробный разбор. Модель можно применять для самооценки рукописи, практики академического письма и подготовки к получению отзывов; карточка указывает поддержку английского, китайского, японского, корейского, французского и немецкого языков. Модель не предназначена для официального рецензирования и принятия решений о публикации, а также не заменяет экспертную оценку, проверку фактов или обнаружение плагиата. Она принимает только текст, поэтому не может напрямую анализировать изображения, графики и сложные формулы; результаты могут быть менее точными в узких и быстро развивающихся областях. Лицензия указана как other, а README запрещает формальное использование для рецензирования.

unsloth/GLM-4.1V-9B-Thinking-GGUF — это GGUF-версия открытой мультимодальной модели GLM-4.1V-9B-Thinking, разработанной командой THUDM и связанной с Zhipu AI. Версия подготовлена Unsloth с использованием квантования Unsloth Dynamic 2.0 и предназначена для задач понимания изображений и текста с рассуждением. Модель основана на GLM-4-9B-0414 и относится к vision-language models с примерно 9 млрд параметров. Она поддерживает китайский и английский языки, контекст до 64k токенов, изображения произвольного соотношения сторон и разрешением до 4K. Модель рассчитана на визуальные вопросы и ответы, анализ изображений, решение сложных задач, математическое и общее мультимодальное рассуждение, а также сценарии мультимодальных агентов. В README заявлены лучшие результаты среди моделей уровня около 10 млрд параметров на 23 из 28 тестов и превосходство над Qwen-2.5-VL-72B на 18 тестах, однако методика и результаты отдельно не приведены. К сильным сторонам относятся акцент на пошаговое рассуждение, поддержка длинного контекста и высокое разрешение изображений. Ограничения включают зависимость качества и требований к ресурсам от используемого GGUF-кванта; конкретный уровень квантизации в README не указан. Для запуска требуется совместимый инструментарий, а при использовании llama.cpp рекомендуется включать параметр --jinja из-за исправлений chat template. Модель распространяется по лицензии MIT.

Hito 1.7B — диалоговая языковая модель Hitonet на архитектуре Qwen3, дообученная на базе Qwen/Qwen3-1.7B. Она предназначена для генерации текста и ответов на вопросы с акцентом на пошаговую проверку рассуждений, арифметические задачи, устойчивость к когнитивным ловушкам и признание неопределённости. Модель поддерживает чат, имеет 1,7 млрд параметров и контекст до 40 960 токенов; в карточке указан английский язык. README демонстрирует использование тегов рассуждений и приводит собственные результаты тестов, но не описывает независимую методику их проверки. Веса распространяются по лицензии Apache 2.0. README отдельно указывает, что методика обучения является проприетарной и для её коммерческого использования требуется отдельная лицензия.

Enoch/llama-65b-hf — конвертированная версия базовой языковой модели LLaMA 65B от команды FAIR в Meta AI для работы с Transformers и Hugging Face. Это авторегрессионная плотная модель на архитектуре Transformer с 65 млрд параметров, предназначенная для генерации текста и исследований возможностей больших языковых моделей. Её можно применять для экспериментов с ответами на вопросы, пониманием естественного языка и чтением с пониманием. Модель обучалась преимущественно на английских веб-текстах; в обучающих данных также были материалы на русском и ещё 19 языках. Поэтому качество ожидается выше для английского, а результаты могут различаться между языками и диалектами. Контекстное окно в предоставленных данных не указано. Это базовая модель без обучения с человеческой обратной связью: она может выдавать токсичный, предвзятый, ошибочный или бесполезный текст, поэтому для прикладного использования нужны отдельная оценка рисков и меры снижения вреда. Репозиторий распространяется по специальной некоммерческой лицензии Meta; условия следует проверить в файле LICENSE.

MiniCPM-V-4.6-Thinking-abliterated-MAX-GGUF — мультимодальная модель, разработанная prithivMLmods на основе openbmb/MiniCPM-V-4.6-Thinking. Это версия в формате GGUF, предназначенная для запуска через llama.cpp и совместимые инструменты. Модель поддерживает обработку изображений, видео и текста, а также позиционируется как модель с пошаговым рассуждением и улучшенным следованием инструкциям. В README указан английский язык. Модель рассчитана на сценарии понимания визуального и текстового контента, мультимодального диалога, анализа изображений и видео, а также задач, требующих рассуждений. Доступны варианты BF16, F16, F32 и квантованные версии Q2_K, Q3_K, Q4, Q5 и другие; размер файлов зависит от варианта и составляет примерно от 422 МБ до 3,02 ГБ. В примере запуска через llama.cpp задан контекст 640000 токенов, однако отдельные характеристики архитектуры и точный размер модели в параметрах не указаны. К сильным сторонам относятся мультимодальность, поддержка явного пошагового рассуждения, компактные квантованные сборки и возможность локального запуска. Ограничением является снижение внутренних механизмов отказа: это может повысить податливость модели, но также увеличивает риск небезопасных, ошибочных или неподходящих ответов. Авторы рекомендуют использовать модель только в исследовательских и образовательных целях и возлагают ответственность за результаты на пользователя. Лицензия — Apache 2.0.

Motif-Technologies/Motif-2-12.7B-Reasoning — версия модели Motif-2-12.7B с усиленными способностями к рассуждению. README приводит результаты на бенчмарках MMLU и MMLU-Redux, но подробное описание модели обещано позднее. Модель предназначена для генерации текста в диалогах и решения задач, требующих рассуждений. Она построена на плотной архитектуре MotifForCausalLM и дообучена на Motif-Technologies/Motif-2-12.7B-Base. Метаданные указывают 10,8 млрд параметров, поддержку контекста до 131 072 токенов и языки английский и корейский; README описывает запуск через vLLM с длиной последовательности до 65 536 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. README сообщает о текущей проверке поддержки Motif в официальном пакете vLLM и приводит способ запуска через контейнер; практическое использование может требовать соответствующей версии vLLM и настройки.

Orca 2 13B — языковая модель Microsoft, дообученная на базе LLaMA 2 на синтетических данных для усиления способностей к рассуждению. Это плотная авторегрессионная архитектура LlamaForCausalLM с 12,9 млрд параметров и контекстом до 4096 токенов; репозиторий содержит веса PyTorch. Модель предназначена для исследовательской оценки и экспериментов с возможностями небольших языковых моделей. Она генерирует одношаговые ответы при рассуждении по предоставленным данным, чтении с пониманием, решении математических задач и суммаризации текста. Модель особенно ориентирована на рассуждение и обучалась преимущественно на примерах в zero-shot формате. Orca 2 не оптимизирована для диалога и не проходила обучение RLHF или DPO; для чат-сценариев или конкретных прикладных задач README рекомендует дополнительное дообучение. Возможны предвзятые, неточные или выдуманные ответы, а качество зависит от соответствия запроса распределению обучающих данных. Microsoft указывает, что модель предназначена только для исследований и не должна применяться в downstream-системах без дополнительной оценки рисков. В метаданных указана лицензия other; конкретные условия использования следует сверять с лицензией и материалами репозитория.

Ouroboros-1MContext-Gemma-270m — экспериментальная текстовая модель, созданная инженером Loay Abd Alsalam на основе Google Gemma 3 270M IT. Автор описывает её как proof of concept: контекстное окно расширено до 1 048 576 токенов масштабированием RoPE с коэффициентом 128, а модель дополнительно обучена на синтетических цепочках логических рассуждений методом self-instruction. Это плотная причинная языковая модель семейства Gemma 3 с 257 млн параметров, предназначенная для генерации текста и диалогов с длинным контекстом. Модель рассчитана на обработку объёмных документов и длинных последовательностей, включая сценарии на ограниченных вычислительных ресурсах. Карточка заявляет поддержку арабского и английского языков и лицензию Gemma. Расширение контекста представлено как инженерный эксперимент; в README упомянуты результаты бенчмарков, но их содержание здесь не приведено, поэтому качество на длинном контексте нельзя оценить по имеющимся сведениям.

Prometheus-Vision 7B v1.0 — мультимодальная модель оценки ответов, разработанная командой Prometheus. Она принимает изображение, инструкцию, ответ для проверки, пользовательскую рубрику оценивания и эталонный ответ, а выдаёт текстовую обратную связь и оценку по шкале от 1 до 5. Модель предназначена для автоматизированной оценки ответов на вопросы по изображениям и может использоваться как более доступная альтернатива GPT-4V и человеческим оценщикам. Это плотная VLM архитектуры LLaVA с классом LlavaLlamaForCausalLM, 6,6 млрд параметров и контекстом 4096 токенов. Модель работает с изображениями и текстом; в карточке заявлен английский язык. Опубликована в формате PyTorch для Transformers и распространяется по лицензии Apache 2.0. По данным карточки, модель показывает высокую корреляцию с GPT-4V и оценками людей; конкретные численные результаты здесь не приведены.

EganAI/Qwen3-4B-Instruct-2507-20250808-233922-0 — языковая модель на архитектуре Qwen3, созданная EganAI послойным слиянием нескольких дообученных вариантов Qwen3-4B. В модели около 3,7 млрд параметров, она принимает текст и генерирует текст; базовая версия поддерживает контекст до 262 144 токенов. Метаданные указывают на английский язык и интерфейс для диалога и вызова инструментов. Модель оптимизировали для ответов на вопросы уровня GPQA Diamond. В README приведены результаты 45,45% на GPQA Diamond в режиме 0-shot и 72,51% на MMLU в режиме 5-shot; эти показатели относятся только к указанным тестам и настройкам. Модель также подходит для диалогов, следования инструкциям и общих текстовых задач. Это экспериментальное слияние, поэтому качество за пределами целевых тестов может меняться, а модель наследует ограничения исходных вариантов. Репозиторий распространяется по лицензии Apache-2.0.

RLPR-Llama3.1-8B-Inst — языковая модель OpenBMB, дообученная на базе Llama-3.1-8B-Instruct с помощью фреймворка RLPR. Метод использует вероятность генерации самой модели как сигнал вознаграждения и не требует внешнего верификатора. Модель содержит 7,5 млрд параметров, построена на плотной архитектуре LlamaForCausalLM и работает с контекстом до 131 072 токенов. Модель предназначена для диалоговой генерации текста и улучшения рассуждений, в том числе решения математических задач. В карточке сообщается об улучшении результатов относительно базового подхода RLVR в среднем на 1,4 пункта по семи тестам. Заявленная применимость охватывает общие задачи рассуждения и разные области, но конкретные результаты зависят от задачи и оценки. Модель принимает текст и генерирует текст; метаданные отмечают английский язык. Для запуска указана библиотека Transformers, веса доступны в формате safetensors. Лицензия — Apache-2.0.

SciRM-7B — модель оценки научных текстов, разработанная авторами проекта SciRM на базе Qwen2.5-7B-Instruct. Это дообученная плотная языковая модель Qwen2 с 7,1 млрд параметров, представленная в формате safetensors; она принимает текстовые инструкции и научные материалы и генерирует текстовую оценку. Контекст модели — до 32 768 токенов. Модель обучена на первом этапе двухэтапного процесса обучения с подкреплением GRPO и предназначена для оценки научного письма по нескольким аспектам. При заданных критериях или явной системе оценивания она может оценивать разные научные задачи, в том числе разделы обзора литературы и рецензии на статьи, а также переносить оценивание на новые типы задач без отдельного дообучения. Для стабильного результата рекомендуется задавать ясные критерии и системную инструкцию. SciRM-7B обучена преимущественно на англоязычных научных текстах в области NLP и компьютерных наук, поэтому качество на других языках и в иных научных дисциплинах может снижаться. Результаты зависят от полноты критериев, и модель не должна быть единственным основанием для важных решений о публикации. Лицензия — Apache-2.0.

research-backup/t5-small-tweetqa-qag-np — модель T5-small, дообученная авторами карточки с помощью lmqg для генерации пар «вопрос—ответ» по тексту. Она обучена на англоязычном наборе lmqg/qag_tweetqa без префикса задачи. Модель содержит 38,5 млн параметров, принимает текст и выдаёт текст; указанная длина контекста — 512 токенов. Модель подходит для автоматического составления вопросов и ответов по текстам из Twitter и похожим коротким материалам на английском языке. В README приведены оценки на lmqg/qag_tweetqa, включая BERTScore 89,48 и BLEU-1 35,61. Опубликованные веса представлены в формате PyTorch. Лицензия — CC BY 4.0.

Peltarion XLM-R Longformer — мультиязычная модель на архитектуре XLM-RoBERTa, расширенная для обработки последовательностей длиной до 4098 токенов. Её дообучили по схеме Longformer на англоязычном корпусе WikiText-103, используя контрольную точку XLM-RoBERTa. Модель содержит 305,2 млн параметров и распространяется в формате PyTorch под лицензией Apache-2.0. Модель предназначена для дальнейшей адаптации к задачам с длинным контекстом, например для ответов на вопросы и других задач понимания текста. Проект магистерской диссертации Peltarion исследовал, как применять длинный контекст для низкоресурсных языков, таких как шведский, без предварительного обучения на длинных корпусах каждого языка. В карточке Hugging Face основная задача обозначена как заполнение пропусков в тексте. Модель унаследовала мультиязычную основу XLM-RoBERTa, однако этап обучения на длинном контексте использовал английский WikiText-103; качество для конкретных языков и прикладных задач зависит от последующего дообучения. Для обучения README рекомендует 16-битную точность с NVIDIA Apex, мощный GPU и накопление градиентов.

rvv-karma/BASH-Coder-Mistral-7B — дообученная модель Mistral-7B-Instruct-v0.1, созданная с использованием набора neulab/tldr. Это плотная авторегрессионная модель на 7,1 млрд параметров для генерации текста; заявленная длина контекста — 32 768 токенов. В README указано, что дообучение выполнялось с LoRA, а модель загружалась в 4-битном режиме. Репозиторий содержит веса safetensors. Модель предназначена для генерации ответов на английском языке в формате, связанном с набором TLDR. Доступен пример загрузки через Transformers. Лицензия — Apache-2.0.

DatedGPT-2015-Instruct — англоязычная чат-модель с настройкой на выполнение инструкций, разработанная как часть семейства DatedGPT. Модель обучена на данных, доступных до 2015 года, поэтому предназначена для прогнозирования без смещения заглядывания в будущее и анализа информации с фиксированной датой отсечения. Модель использует плотную архитектуру LlamaForCausalLM, содержит около 1,3 млрд параметров и поддерживает контекст длиной 2048 токенов. Она принимает текст и генерирует текстовые ответы в диалоговом формате; для общения используется шаблон чата в стиле Llama 2. Знания модели ограничены данными до 2015 года. В модели нет RLHF и настройки безопасности, поэтому ответы могут быть уверенными, но ошибочными. Лицензия в предоставленных сведениях не указана.

Карточка модели lemiao/decapoda-research-llama-7b-hf на Hugging Face совпадает с карточкой Enoch/llama-7b-hf, поэтому описание составлено по ней. Enoch/llama-7b-hf — конверсия базовой модели LLaMA первого поколения от команды FAIR в Meta AI для работы с Transformers и Hugging Face. Это плотная авторегрессионная языковая модель на архитектуре Transformer с классом LlamaForCausalLM и примерно 6,6 млрд параметров; репозиторий содержит веса PyTorch. Модель предназначена прежде всего для исследований и разработки на базе языковых моделей: генерации текста, экспериментов с пониманием естественного языка, ответами на вопросы и чтением с пониманием. В обучающих данных представлены 20 языков, но основная часть корпуса — английская, поэтому качество ожидается выше на английском, чем на остальных языках. Это базовая модель без обучения с обратной связью от людей. Она может выдавать неверные, токсичные, вредные или предвзятые ответы и не предназначена для прямого применения в критически важных решениях без дополнительной оценки и мер снижения рисков. Лицензия специальная, некоммерческая; условия следует проверить в файле LICENSE репозитория.

aodl/distilbert-fever — англоязычная модель классификации текста на базе DistilBERT, дообученная на наборе FEVER. Она предназначена для классификации текстовых последовательностей в сценариях проверки фактов и анализа утверждений. Модель использует архитектуру DistilBertForSequenceClassification, принимает текстовые входы и поддерживает контекст длиной до 512 токенов. На оценочной выборке FEVER модель показала точность 0,529 и значение loss 2,1761. Эти результаты дают ориентир для оценки качества, но README не уточняет схему меток и подробности оценки. Модель распространяется под лицензией Apache-2.0.

Это дообученная на HotpotQA модель bactrianus на базе Meta Llama 3 8B Instruct, предназначенная для выбора предложений, подтверждающих ответ на вопрос с несколькими переходами между фактами. На вход она получает вопрос и отобранные абзацы, а генерирует названия абзацев и нулевые индексы предложений с предполагаемыми подтверждающими фактами; результат можно передать следующему модулю для подготовки ответа. Модель рассчитана на англоязычные входы в стиле HotpotQA и каскад, где сначала отбираются абзацы, а затем предложения. Это генеративная плотная архитектура Llama с 7,5 млрд параметров и контекстом 8192 токена, доступная в формате Safetensors и используемая через Transformers. Лицензия — Llama 3. Название «Retriever» здесь не означает поиск по корпусу: модель выбирает факты только среди переданных абзацев. Она зависит от полноты отбора абзацев и точного сохранения заголовков, порядка предложений и нулевой индексации; сгенерированные пары нужно проверять на соответствие входу. Карточка не содержит результатов оценки, а точный исторический промпт и сведения об окружении неполны.

HyLo-Llama-8MLA8GDN-64K-SFT — экспериментальная гибридная языковая модель, выпущенная AMD как артефакт исследования Long-Context Aware Upcycling. Она создана на основе meta-llama/Llama-3.2-1B-Instruct: 16 слоёв чередуют 8 слоёв Multi-head Latent Attention (MLA) и 8 слоёв Gated DeltaNet. Модель содержит около 1,2 млрд параметров по метаданным; в README приведено значение 1,61 млрд. При дообучении использовалась дистилляция от Llama-3.1-8B-Instruct. Модель предназначена для генерации текста и диалогов с длинным контекстом — до 65 536 токенов, что соответствует длине обучения и оценки. MLA хранит сжатое латентное представление ключей и значений, а слои Gated DeltaNet используют фиксированное рекуррентное состояние; заявленный размер KV-кэша составляет 7,8% от базовой модели. Основной язык карточки — английский; метаданные не подтверждают поддержку других языков. Это исследовательский чекпойнт без заявленной готовности к производственному применению. Качество за пределами 65 536 токенов не проверено; оценка не охватывает мультиязычность, программирование, безопасность и следование инструкциям на длинном контексте. Обычный AutoModelForCausalLM из Transformers не загружает гибридную архитектуру, требуется код AMD для гибридных моделей. Лицензия репозитория — Apache-2.0.