I.2Синтез, понимание и проверка знаний

GRPO-VI-Qwen2-7B-RAG — языковая модель, дообученная командой Nguyen Nho Trung, Nguyen Van Huy и Nguyễn Nhat Quang на базе Qwen/Qwen2.5-7B-Instruct. Она предназначена прежде всего для генерации ответов в системах с дополненной поиском генерацией (RAG), сохраняя диалоговые возможности. Обучение включало supervised fine-tuning и GRPO на вьетнамских примерах: модель улучшали для многошаговых вопросов по найденным документам, отбора нерелевантных сведений и объединения информации. Также модель подходит для общих вопросов, математики и задач по программированию. Это плотная архитектура Qwen2 с 7,1 млрд параметров, рассчитанная на текстовый ввод и текстовые ответы; репозиторий содержит веса Safetensors и использует библиотеку Transformers. Метаданные указывают контекст до 32 768 токенов. Модель ориентирована на вьетнамский язык. В карточке приведены оценки на внутреннем наборе EvalRAGData и бенчмарке VMLU, но результаты не гарантируют точности в других сценариях. Разработчики отмечают возможные ошибки и предвзятые или неуместные ответы, особенно на политические и общественные темы. Лицензия — Apache-2.0.

Nitral-Archive/Hex-Macaroniac-7b — объединённая языковая модель на архитектуре Mistral, созданная слиянием jeiku/SpaghettiOs_7B и jeiku/Nitrals_Monster_7B методом SLERP. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 8192 токена. Модель предназначена для генерации текста и ответов на запросы. В карточке приведены результаты Open LLM Leaderboard, включая среднюю оценку 66,64, AI2 Reasoning Challenge и HellaSwag. Указана лицензия other; условия её использования следует сверять с лицензией и сведениями базовых моделей.

Abiray/Huihui-Qwythos-9B-Claude-Mythos-5-1M-abliterated-GGUF — набор квантизированных моделей в формате GGUF, созданный Abiray на основе Huihui-Qwythos-9B-Claude-Mythos-5-1M-abliterated от huihui-ai. Базовая модель представляет собой версию Qwythos-9B-Claude-Mythos-5-1M от empero-ai, модифицированную методами abliteration для удаления векторов отказа. Репозиторий также содержит мультимодальные проекционные файлы mmproj для работы с изображениями локально. Модель предназначена для генерации текста, рассуждений и сценариев image-to-text с поддержкой зрения. Заявлены архитектура современного семейства Qwen 3.5, 9 млрд параметров, английский язык и контекст до 1 млн токенов; конкретные возможности зависят от используемой сборки и совместимости с llama.cpp. Доступны варианты квантизации от 3 до 8 бит размером примерно от 4,74 до 9,79 ГБ, включая рекомендуемый компромисс Q4_K_M. Для визуального ввода требуется отдельный проектор mmproj; доступны квантизированный и F16-варианты. К сильным сторонам относятся локальный запуск, широкий выбор квантизации, поддержка длинного контекста и изображений, а также сниженное количество встроенных отказов. Ограничения включают возможную потерю качества при низкой квантизации, требования к свежей версии llama.cpp и необходимость дополнительного проектора для мультимодальной работы. Модель распространяется по лицензии Apache-2.0.

InnerILLM-0x00d0-Ox0dad0-nous-nous-v2.0-7B-slerp — языковая модель, созданная InnerI слиянием методом SLERP через LazyMergekit моделей OpenPipe/mistral-ft-optimized-1218 и 0x0dad0/nous_nous_v2_0. Это плотная авторегрессионная модель семейства Mistral на 7,1 млрд параметров для генерации текста. Она принимает текст и формирует текстовые продолжения; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса Safetensors в формате bfloat16. Модель подойдёт для текстовых диалогов и генерации текста, однако карточка не приводит оценок качества, конкретных рекомендаций по применению или сведений о поддерживаемых языках. Лицензия в предоставленных данных не указана.

Jais Family 2.7B Chat — диалоговая языковая модель семейства Jais, разработанного Inception AI. Это дообученная для общения версия двуязычной модели с 2,7 млрд параметров; она принимает текст и генерирует ответы, особенно хорошо ориентируясь на арабский язык и также поддерживая английский. Модель подходит для чат-ассистентов, генерации и понимания текста, анализа тональности и краткого изложения арабских и англоязычных материалов. Модель распространяется в формате Safetensors и требует загрузки пользовательского класса модели с параметром trust_remote_code=True. Лицензия — Apache 2.0. Карточка описывает семейство Jais в целом, поэтому приведённые для семейства сценарии и ограничения не обязательно характеризуют именно этот размер модели. Возможны предвзятые, неверные или оскорбительные ответы; модель не следует использовать для высокозначимых решений без контроля человека, обработки чувствительных данных или как надёжную систему для языков помимо арабского и английского.

inception42/jais-family-590m — двуязычная языковая модель семейства Jais от Inception Institute of Artificial Intelligence. Это базовая модель с плотной decoder-only архитектурой JAISLMHeadModel и 590 млн параметров; она предобучена с нуля, а не адаптирована из Llama-2. Модель принимает текст и генерирует продолжение, поддерживает арабский и английский языки и имеет контекст длиной до 2048 токенов. Модель подходит для генерации текста, ответов на вопросы и дальнейшей настройки под арабоязычные и двуязычные приложения; семейство также рассчитано на задачи понимания текста и классификации. Карточка описывает всю линейку Jais, поэтому отдельные возможности конкретно версии 590M могут быть скромнее, чем у крупных вариантов. Модель может выдавать неточную, предвзятую или оскорбительную информацию; её не следует использовать для высокорисковых решений без человеческого контроля. Лицензия — Apache 2.0.

K2S3-Mistral-7b-v1.1 — текстовая генеративная модель, разработанная K2S3 на основе mistralai/Mistral-7B-v0.1. Это плотная авторегрессионная модель семейства Mistral с 7,2 млрд параметров и контекстом до 32 768 токенов; веса опубликованы в формате safetensors. Модель дообучена полным обновлением параметров методом SFT на данных alpaca-gpt4-data и выборках из OpenOrca. Она предназначена для генерации текста и ответов на запросы в формате инструкций. В карточке заявлены английский и корейский языки. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Качество и надёжность ответов могут различаться; сведения о специализированной предметной области или дополнительных гарантиях качества в карточке не приведены.

K2S3-Mistral-7b-v1.47 — языковая модель K2S3 для генерации текста, дообученная методом SFT на базе mistralai/Mistral-7B-v0.1 с настройкой всех параметров. В обучении использовались alpaca-gpt4-data и примеры из OpenOrca. Модель относится к плотной архитектуре MistralForCausalLM, содержит 7,2 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации ответов и выполнения текстовых инструкций на английском языке. Она может быть полезна для создания диалоговых и инструкционных приложений, однако карточка не приводит оценок качества или специальных гарантий. Распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

Kanana-2-3B-Instruct — компактная языковая модель Kakao, предназначенная для диалогов и выполнения инструкций. Она основана на плотной архитектуре Qwen3 с 2,9 млрд параметров и создана на базе kakaocorp/kanana-2-3b-base. Модель прошла дообучение с учителем и обучение с подкреплением; поддерживает контекст до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы, рассуждений и других текстовых задач. Kakao отмечает улучшенную эффективность токенизации корейского языка по сравнению с предыдущим поколением Kanana. Модель также предназначена для сценариев вызова инструментов, хотя фактическое качество зависит от задачи и способа развертывания. Для запуска в README рекомендованы Transformers версии 4.57.0 или новее; приведены варианты развертывания через vLLM и SGLang. Лицензия указана как other, поэтому конкретные условия использования следует уточнить в карточке модели. В README указано, что пользовательские данные Kakao не использовались при обучении.

KnowLM-13B-Diff — дифференциальные веса проекта KnowLM, разработанные для восстановления ZhiXi-13B на основе LLaMA-13B. Авторы обучили ZhiXi на китайских и английских корпусах, чтобы расширить понимание китайского языка и обогатить знания, сохранив возможности английского языка и программирования; затем модель дообучили на инструкциях для извлечения знаний. Веса этой карточки нужно объединить с исходными весами LLaMA-13B, чтобы получить рабочую модель. Модель предназначена для генерации текста и извлечения знаний по инструкциям, включая распознавание сущностей, извлечение отношений и извлечение информации. Это плотная авторегрессионная модель семейства LLaMA примерно на 13 млрд параметров с контекстом 2048 токенов; в метаданных указаны английский и китайский языки и формат PyTorch. README предупреждает, что проект оптимизируется и результаты могут отличаться у fp16-варианта. Для восстановления дифференциальных весов требуется LLaMA-13B; лицензия в метаданных — Apache-2.0.

LeoLM/leo-hessianai-13b-chat-bilingual — двуязычная чат-модель, разработанная Björn Plüster и Christoph Schuhmann в сотрудничестве с LAION и HessianAI. Она основана на LeoLM/leo-hessianai-13b — языковой модели семейства Llama, построенной на Llama 2, — и дообучена на немецких инструкционных данных и их английских версиях. Модель предназначена для диалога, написания текстов, объяснений и обсуждений на немецком и английском языках. Это плотный авторегрессионный трансформер с 12,9 млрд параметров и контекстом до 8192 токенов. В опубликованной оценке MT-Bench сильнее всего показала себя в гуманитарных темах, а также в задачах STEM и письма. Модель хуже справляется с математикой и сложными рассуждениями; ответы могут быть неточными или предвзятыми, поэтому для конкретных приложений рекомендуется отдельная проверка безопасности и качества. Лицензия — Llama 2 Community License Agreement.

LeoLM/leo-hessianai-7b-chat — чат-модель команды LeoLM, созданная Björn Plüster и Christoph Schuhmann совместно с LAION и HessianAI. Она основана на LeoLM/leo-hessianai-7b — немецкоязычной версии Llama 2, дополнительно обученной на немецких текстах, — и дообучена на наборах немецких инструкций. Модель представляет собой плотный авторегрессионный трансформер-декодер семейства Llama с 6,6 млрд параметров и контекстом до 8 192 токенов; работает через Transformers и использует формат диалога ChatML. Модель предназначена для общения, написания и объяснения текстов, обсуждений, ролевых диалогов и ответов на вопросы на немецком и английском языках. В оценке MT-Bench-DE особенно хорошо показала себя в гуманитарных и STEM-задачах, а математика, программирование и сложные рассуждения оказались слабее. Разработчики предупреждают о возможных неточных, предвзятых или нежелательных ответах и рекомендуют проверять модель и адаптировать меры безопасности под конкретное применение. Лицензия — Llama 2 Community License Agreement.

Карточка модели titanbot/LeoLM-hessianai-7b-chat на Hugging Face совпадает с карточкой LeoLM/leo-hessianai-7b-chat, поэтому описание составлено по ней. LeoLM/leo-hessianai-7b-chat — чат-модель команды LeoLM, созданная Björn Plüster и Christoph Schuhmann совместно с LAION и HessianAI. Она основана на LeoLM/leo-hessianai-7b — немецкоязычной версии Llama 2, дополнительно обученной на немецких текстах, — и дообучена на наборах немецких инструкций. Модель представляет собой плотный авторегрессионный трансформер-декодер семейства Llama с 6,6 млрд параметров и контекстом до 8 192 токенов; работает через Transformers и использует формат диалога ChatML. Модель предназначена для общения, написания и объяснения текстов, обсуждений, ролевых диалогов и ответов на вопросы на немецком и английском языках. В оценке MT-Bench-DE особенно хорошо показала себя в гуманитарных и STEM-задачах, а математика, программирование и сложные рассуждения оказались слабее. Разработчики предупреждают о возможных неточных, предвзятых или нежелательных ответах и рекомендуют проверять модель и адаптировать меры безопасности под конкретное применение. Лицензия — Llama 2 Community License Agreement.

LFM2.5-2.6B-Base — предварительно обученная текстовая базовая модель компании Liquid AI из семейства LFM2.5. Она предназначена для дообучения и экспериментов с новыми методами постобучения; среди подходящих сценариев — создание языковых или предметных ассистентов и обучение на собственных данных. Модель рассчитана на локальное и периферийное развертывание и работает с текстом. Архитектура — плотная гибридная LFM2: 30 слоёв, включая 22 блока коротких свёрток с двойным гейтингом и 8 слоёв GQA. В модели 2,6 млрд параметров, словарь размером 128 000 токенов и контекст до 128 000 токенов. Она обучалась на 34 трлн токенов и поддерживает 17 языков: арабский, китайский, английский, французский, немецкий, хинди, индонезийский, итальянский, японский, корейский, польский, португальский, русский, испанский, тайский и вьетнамский. Модель опубликована в формате Safetensors и поддерживается Transformers. Это базовый чекпойнт, поэтому для готовых ассистентских сценариев может потребоваться существенное дообучение. Лицензия указана как «other»; конкретные условия использования следует сверить с лицензией в репозитории.

Llama-2-13b-chat-norwegian — модель Ruter AI Lab, созданная дообучением Meta Llama 2 13B Chat на норвежских данных. Это плотная авторегрессионная языковая модель с 12,9 млрд параметров и контекстом до 4096 токенов; доступны веса PyTorch и safetensors. Модель предназначена для понимания и генерации текста на норвежском языке и для диалоговых сценариев с инструкциями. Её можно использовать для ответов на вопросы, суммаризации и работы чат-ассистента на норвежском. В обучении использовались Norwegian Alpaca, 15 тысяч машинно переведённых примеров OpenOrca и небольшой набор собственных инструкций; модель обучалась одну эпоху. Авторы отмечают, что для хороших результатов может потребоваться настройка промптов. Модель обычно лучше справляется с суммаризацией, вопросами и диалогом, чем с задачами, требующими специальных знаний о Норвегии или конкретных областях. Машинный перевод в обучающих данных может содержать грамматические и другие ошибки. Лицензия — Llama 2 Community License; набор Norwegian Alpaca имеет отдельное ограничение на создание моделей, конкурирующих с OpenAI.

ddobokki выпустил инструкционную модель Llama-2-70b-orca-200k на архитектуре LlamaForCausalLM с плотной архитектурой и примерно 68,7 млрд параметров. Она обучена на выборке из 200 тысяч примеров OpenOrca и предназначена для генерации текста по инструкциям и диалога в формате «Human — Assistant». Метаданные указывают английский язык и контекстное окно 4096 токенов; модель распространяется в формате PyTorch. Модель подходит для ответов на вопросы, выполнения текстовых инструкций и диалоговых сценариев на английском языке. Карточка ссылается на отдельные документы с политикой использования и рекомендациями по ответственному применению. Лицензия в предоставленных данных не указана.

Posicube Inc. разработала Posicube/Llama2-chat-AYB-13B — диалоговую плотную языковую модель на архитектуре Llama 2 с 12,9 млрд параметров. Модель создана на основе Llama-2-13b-chat-hf с использованием ансамблирования моделей, показавших высокие результаты в бенчмарках; в обучении применялись наборы данных в стилях Orca и Alpaca. Она предназначена для генерации текста и ответов в диалоге. Контекст составляет 4096 токенов; модель работает с текстом, а оценка в карточке описана для английских тестов ARC, HellaSwag и MMLU. Разработчик сообщает, что на момент публикации в октябре 2023 года модель занимала первое место среди моделей с 13 млрд параметров на упомянутых бенчмарках. Модель распространяется в формате safetensors по лицензии Llama 2. Как и другие большие языковые модели, она может выдавать неточные, предвзятые или нежелательные ответы; перед применением рекомендуется проверять её на сценариях конкретного продукта. Заявленная оценка охватывает английские тесты и не подтверждает качество во всех сценариях.

YoojongChoi/Llama-3.1-8B-Instruct-ft-hallucination-detection — дообученная разговорная модель на архитектуре Llama 3.1, созданная YoojongChoi на базе unsloth/meta-llama-3.1-8b-instruct-unsloth-bnb-4bit с использованием Unsloth и библиотеки TRL. Репозиторий содержит веса Safetensors; модель насчитывает 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. По названию модель предназначена для выявления галлюцинаций в ответах языковых моделей. Метаданные относят её к генерации текста и указывают возможность диалогового взаимодействия; карточка не описывает формат входных данных для детекции, метод оценки или результаты тестирования. Модель распространяется по лицензии Apache-2.0.

chrisrutherford/Llama-3.1-8B-ReasonChatV1 — это чат-модель для генерации текста на основе архитектуры Llama 3.1. Карточка содержит пример ответа на этический вопрос с разделами рассуждения, аргументации и вывода; метаданные указывают 7,5 млрд параметров и контекстное окно до 131 072 токенов. Модель подходит для диалогов, ответов на вопросы и генерации рассуждений на естественном языке. В метаданных указан формат safetensors и лицензия Llama 3.1. Данных о языках обучения или специальных предметных областях карточка не приводит.

Экспериментальный чекпойнт promotion, полученный дообучением meta-llama/Llama-3.1-8B-Instruct методом Nash Bargaining Preference Optimization (NBPO) на наборе TL;DR. Модель предназначена для генерации кратких резюме с учетом нескольких целей: полноты охвата, достоверности, краткости и полезности. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, поддерживает диалоговый режим и контекст до 131 072 токенов. В карточке описан анализ чувствительности к бюджету обучения; оценка проводилась на отложенных промптах по сравнению с исходной политикой и не подтверждает широкое применение за пределами суммаризации TL;DR. Для использования действует лицензия Llama 3.1.

Llama-3.2-1B-Instruct-GGUF — квантизированная GGUF-версия 1B-инструкционной модели семейства Llama 3.2, разработанного Meta и опубликованная Unsloth. Это авторегрессионная языковая модель на основе оптимизированной архитектуры Transformer с Grouped-Query Attention (GQA). Модель работает в текстовом формате и предназначена для диалоговых сценариев, включая агентский поиск с извлечением данных и суммаризацию. Доступны варианты с разной точностью квантования: 16, 8, 6, 5, 4, 3 и 2 бита, что позволяет выбирать компромисс между качеством, размером и требованиями к памяти. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки; модель также обучалась на более широком наборе языков, но качество для них может различаться. Инструкционная версия обучалась с использованием supervised fine-tuning (SFT) и reinforcement learning from human feedback (RLHF) для повышения полезности и безопасности. Ограничения включают меньший размер по сравнению с более крупными моделями семейства, возможное снижение качества при сильном квантовании и отсутствие гарантии высокого качества для языков, не входящих в официальный список. Использование регулируется Llama 3.2 Community License — специальной коммерческой лицензией Meta.

mlx-community/Llama-3.2-1B-Instruct-MLXTuned — конверсия модели Meta Llama 3.2 1B Instruct в формат MLX, выполненная сообществом mlx-community с помощью mlx-lm версии 0.20.5. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 1,2 млрд параметров, предназначенная для генерации текста и диалогового использования. Она поддерживает контекст до 131 072 токенов и ориентирована на английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель подходит для ответов на вопросы, суммаризации, помощи в написании текстов и диалоговых сценариев. Репозиторий содержит веса в формате safetensors; README описывает преобразование в MLX и использование через mlx-lm. Лицензия — Llama 3.2 Community License. Возможности и качество унаследованы от базовой модели; результаты компактной модели могут быть менее надёжными и подробными, чем у более крупных моделей.

QuantFactory/Llama-3-Instruct-8B-SPPO-Iter3-GGUF — квантизированная версия языковой модели UCLA-AGI/Llama-3-Instruct-8B-SPPO-Iter3, созданная с использованием llama.cpp. Модель разработана на основе архитектуры Meta Llama 3 8B Instruct и обучена методом Self-Play Preference Optimization на синтетических ответах с использованием наборов запросов из UltraFeedback. Третья итерация обучения применяет данные, разделённые для последовательного проведения трёх итераций оптимизации. Модель предназначена для генерации текста и выполнения общих инструкций, включая диалоговые и вопросно-ответные сценарии. Это GPT-подобная текстовая модель примерно на 8 млрд параметров, ориентированная прежде всего на английский язык. Информация о поддерживаемой длине контекста и дополнительных модальностях в README не указана; модель является текстовой и не предназначена для обработки изображений или других мультимедийных данных. К сильным сторонам относятся улучшенные результаты третьей итерации по сравнению с предыдущими версиями в оценках AlpacaEval и Open LLM Leaderboard: заявлены LC Win Rate 38,77, средний результат набора Open LLM Leaderboard 70,29 и высокие показатели на HellaSwag, Winogrande и ARC-Challenge. Ограничениями являются преимущественная ориентация на английский язык, зависимость качества от выбранного формата квантизации и отсутствие в README подробностей о конкретном варианте квантизации и размере файла. Модель распространяется по лицензии Apache-2.0.

Llama-3-Patronus-Lynx-70B-Instruct-GGUF — это набор квантизированных GGUF-версий инструкционной языковой модели Llama-3-Patronus-Lynx-70B-Instruct, разработанной Patronus AI и преобразованной в GGUF пользователем mradermacher. Модель предназначена для генерации текста и задач оценки качества ответов, включая обнаружение галлюцинаций. Указан английский язык, однако другие языки README не описывает. Модель имеет размер 70B параметров и поставляется в нескольких вариантах квантования от Q2_K до Q8_0, включая IQ-кванты. Размер файлов составляет примерно от 26,5 до 75,1 ГБ; варианты Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как обеспечивающий очень хорошее качество, а Q8_0 — как вариант с лучшим качеством среди перечисленных. Более сильное сжатие уменьшает требования к памяти, но может снижать качество. Архитектура, размер контекстного окна, поддерживаемые модальности и дополнительные языки в README не указаны. Файлы предназначены для локального запуска в совместимом программном обеспечении, поддерживающем формат GGUF; некоторые варианты разделены на две части и требуют объединения. Модель распространяется по лицензии CC BY-NC 4.0, то есть использование ограничено некоммерческими условиями лицензии.

llm-jp-3.1-13b — плотная языковая модель на архитектуре Llama, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Модель содержит 13,2 млрд параметров и предназначена для генерации текста и следования инструкциям. Она прошла дополнительное обучение на парах инструкций и ответов, а затем supervised fine-tuning и выравнивание методом Direct Preference Optimization. Модель принимает и генерирует текст; в карточке указана поддержка японского и английского языков. Контекстное окно составляет 4096 токенов. Репозиторий содержит веса в формате Safetensors для Transformers. Модель подходит для диалоговых систем, ответов на вопросы и генерации текстов по инструкциям. Разработчики предупреждают, что модель находится на раннем этапе исследований и разработок и не настроена для гарантированного соответствия человеческим намерениям или требованиям безопасности. Лицензия — Apache-2.0.

LongForm-LLaMA-7B-diff — опубликованная разность весов модели LLaMA 7B, адаптированной авторами набора данных LongForm для генерации длинных текстов по инструкциям. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LLaMA и распространяется в формате PyTorch. Для применения разности необходима исходная предобученная LLaMA 7B; README отмечает, что опубликована именно разность из-за ограничений на распространение моделей LLaMA. Модель предназначена для генерации развернутых текстов по инструкциям: ответов на вопросы, рецептов, писем, историй и стихотворений, а также для суммаризации и исправления грамматики. Обучающий набор LongForm включает англоязычные примеры из разных корпусов и структурированных источников. Метаданные также отмечают поддержку немецкого, итальянского, испанского и французского языков, однако описание обучения и оценки сосредоточено на английском. Авторы сообщают о преимуществах LongForm-моделей в оценке генерации рецептов, ответов на вопросы ELI5 и коротких историй по сравнению с некоторыми моделями, настроенными на инструкции. Модель может галлюцинировать и ограниченно подходит для задач структурированного предсказания. Лицензия в предоставленных данных не указана.

grimulkan/lzlv-longLORA-70b-rope8-32k-fp16 — слитая модель на архитектуре Llama с 68,7 млрд параметров, созданная объединением LongAlpaca-70B-lora и lzlv_70b_fp16_hf. Дополнительного дообучения не проводилось; из словаря удалили лишнюю строку и токен заполнения, чтобы словари совпадали. Модель предназначена для генерации текста с возможностью экспериментально увеличить контекст до 32K токенов с помощью линейного масштабирования RoPE в 8 раз. По приведённому в README бенчмарку, при увеличении контекста качество снижается примерно на 30%. Автор отмечает, что работоспособность объединения не гарантирована. В репозитории доступны веса safetensors; идентификатор указывает на вариант fp16. Лицензия — CC BY-NC 2.0, допускающая использование с указанием авторства и запрещающая коммерческое применение.

MaziyarPanahi/M7Yamshadowexperiment28_Strangemerges_32Yamshadow — объединённая методом SLERP языковая модель семейства Mistral, созданная из automerger/M7Yamshadowexperiment28-7B и automerger/Strangemerges_32Yamshadow-7B. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста с контекстом до 32 768 токенов. Её можно применять для диалогов, написания и продолжения текста, а также других сценариев генерации на естественном языке. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Сведения о конкретных языках обучения и специализированных областях применения не приведены.

Magnum v4 22B — языковая модель, разработанная организацией Anthracite и представленная в формате GGUF-квантизаций. Она дообучена на базе Mistral-Small-Instruct-2409 и создана для воспроизведения качества прозы моделей Claude 3, в частности Sonnet и Opus. Модель предназначена для текстовой генерации и диалоговых сценариев, включая написание и редактирование текстов, следование инструкциям и использование в чат-интерфейсах, например SillyTavern. Указан английский язык. Размер модели — 22 млрд параметров; поддерживается контекст длиной до 32 768 токенов. Модель работает в текстовой модальности, а README описывает стандартный формат промпта Mistral с системным сообщением, пользовательскими запросами и ответами ассистента. К сильным сторонам относятся ориентация на высокое качество прозы, большой контекст и доступность в GGUF для локального запуска с подходящими инструментами. Ограничения включают отсутствие заявленных мультимодальных возможностей, отсутствие количественных результатов бенчмарков и неполное описание характеристик безопасности. Модель обучалась в течение двух эпох методом полно-параметрического дообучения на нескольких датасетах, связанных с инструкциями, диалогами и качеством письма. Лицензия указана как other с названием mrl; дополнительные условия в README не раскрыты.

Карточка модели Kailune-AI/mamba-gpt-3b на Hugging Face совпадает с карточкой CobraMamba/mamba-gpt-3b, поэтому описание составлено по ней. CobraMamba/mamba-gpt-3b — языковая модель, дообученная авторами репозитория на open-lama. В карточке базовой моделью названа openlm-research/open_llama_3b; каталог классифицирует архитектуру как плотную LLaMA с классом LlamaForCausalLM. Модель содержит 3,3 млрд параметров, принимает текст и генерирует текст, работает через Transformers и поддерживает контекст до 2048 токенов. Модель предназначена для генерации продолжений текста и языковых задач, включая ответы на вопросы и рассуждение по текстовому запросу. В README приведены результаты бенчмарков MMLU, ARC, HellaSwag и других оценок; авторы сообщают о сравнении с OpenLLaMA 3B и LLaMA. Карточка указывает лицензию Apache-2.0. README предупреждает, что ответы могут быть ошибочными, нерелевантными или содержать предвзятый и оскорбительный контент. В оценке авторы исключили CB и WSC из-за подозрения на загрязнение обучающими данными, поэтому приведённые результаты следует интерпретировать с учётом этого ограничения.