I.2Синтез, понимание и проверка знаний

Gemma-4-31B-CoreAI — конвертация модели Google Gemma 4 31B, выполненная сообществом пользователем mlboydaisuke для запуска в формате .aimodel на Apple Core AI. Модель предназначена для локальной генерации текста, диалогов, суммаризации и других задач, поддерживаемых текстовыми языковыми моделями, полностью на устройстве без обязательной передачи данных в облако. Она ориентирована на компьютеры Mac с Apple Silicon и интеграцию через CoreAIKit или совместимые инструменты Core AI. Это плотный текстовый декодер Gemma 4 с 60 слоями, скрытым размером 5376, 32 головами внимания и словарём из 262 144 токенов. Архитектура использует чередование скользящего и глобального внимания в соотношении 5:1; размер головы составляет 256 для скользящего внимания и 512 для глобального. Модель подвергнута int4-квантизации на основе QAT-релиза Google, занимает около 19 ГБ и имеет заявленную скорость декодирования 17,2 токена в секунду на M4 Max. Поддерживаются только текстовые входы и выходы; сведения о языках и максимальном размере контекста в README не указаны. К сильным сторонам относятся запуск крупной 31-миллиардной модели на стандартном конвейерном движке Core AI, выполнение вычислений локально на GPU или Neural Engine и отсутствие необходимости в специальной модификации движка благодаря пользовательскому Metal-ядру для декодирования внимания. Ограничения включают высокие требования к памяти, размер загрузки около 20,1 ГБ, совместимость прежде всего с Mac-классом устройств и отсутствие заявленной поддержки iPhone. Модель распространяется по лицензии Apache 2.0.

beomi/gemma-ko-7b — базовая текстовая модель Gemma-Ko, выпущенная автором beomi на основе Gemma-7B от Google. Это плотная авторегрессионная архитектура-декодер Gemma с 8,2 млрд параметров и контекстом до 8192 токенов; модель распространяется в формате safetensors и рассчитана прежде всего на корейский и английский языки. Модель предназначена для генерации текста, ответов на вопросы, суммаризации и рассуждений, а также для черновиков писем, творческих текстов и языковых упражнений. Её можно запускать на локальном компьютере или в облачной инфраструктуре; для работы используется Transformers. В карточке приведены общие сценарии семейства Gemma, однако результаты бенчмарков этой версии не указаны. Качество ответов зависит от данных и формулировки запроса: модель может ошибаться в фактах, упускать нюансы и воспроизводить смещения. Указана лицензия other; использование регулируется условиями Gemma, на которые ссылается карточка.

GLM-5.3-Flash-GGUF — это квантизированные GGUF-версии языковой модели GLM-5.3-Flash от zai-org, подготовленные пользователем 6block с помощью llama.cpp. Модель предназначена для генерации текста и запуска локально через llama.cpp; заявлены поддерживаемые языки английский и китайский. Она подходит для сценариев, где требуется большая языковая модель с длинным контекстом и возможностью подобрать объём файлов под доступные ресурсы. Модель содержит 320 млрд параметров, из которых 18 млрд активируются на токен, и поддерживает контекст до 1 млн токенов. Архитектура включает 45 слоёв с гибридным вниманием: 34 слоя KDA linear attention чередуются с 11 слоями DSA sparse attention; используется MLA, Manifold-Constrained Hyper-Connections (mHC) и MoE с 288 экспертами, маршрутизацией top-8 и общим экспертом. В репозитории представлены варианты IQ4_XS, IQ3_XXS, IQ2_XS и IQ1_M размером примерно от 65 до 155 GiB, каждый разделён на 15 частей. Квантизация выполнена из официальных BF16-весов с калибровкой imatrix; слой MTP NextN исключён. IQ4_XS и IQ3_XXS рекомендуются авторами как предпочтительные варианты: IQ2_XS и IQ1_M заметно теряют качество, хотя требуют меньше места. Для запуска необходимо скачать все 15 частей выбранного варианта и указать первый файл в llama-cli; распределение слоёв по доступной памяти llama.cpp выполняет автоматически. Лицензия MIT, унаследованная от исходной модели zai-org/GLM-5.3-Flash.

SillyTilly/google-gemma-2-9b-it — текстовая диалоговая модель семейства Gemma 2, созданного Google на основе исследований и технологий, использованных при разработке Gemini. Это плотная авторегрессионная модель с 9 млрд параметров и контекстом до 8192 токенов; репозиторий содержит веса в формате safetensors, а для запуска указана библиотека Transformers. Модель предназначена для генерации текста по инструкциям и диалога на английском языке. Её можно применять для ответов на вопросы, суммаризации, создания черновиков, чат-ботов и языковой практики. Относительно компактный размер подходит для запуска на локальном компьютере или собственной облачной инфраструктуре. Модель может выдавать фактические ошибки, отражать смещения обучающих данных и хуже справляться со сложными открытыми запросами, нюансами языка и здравым смыслом. Лицензия — Gemma; использование должно соответствовать условиям лицензии и политике запрещённого использования Gemma.

GWQ-9B-Preview2 — англоязычная диалоговая языковая модель, созданная prithivMLmods как дообученная версия GWQ-9B-Preview на базе архитектуры Gemma 2. Это плотная авторегрессионная модель типа decoder-only с 9 млрд параметров, предназначенная для генерации текста и работы в формате чата; максимальная длина контекста — 8192 токена. Модель рассчитана на ответы на вопросы, суммаризацию, генерацию текстов и многошаговые рассуждения. В README указано дообучение на синтетическом наборе Chain of Continuous Thought; модель также может следовать инструкциям. Для запуска используется библиотека Transformers и шаблон чата токенизатора. Модель может ошибаться и галлюцинировать, воспроизводить смещения обучающих данных и испытывать трудности со сложными рассуждениями; её ответы могут быть неактуальны. Для инференса 9-миллиардной модели нужны существенные вычислительные ресурсы, а длинные входы ограничены окном контекста. Репозиторий использует лицензию Gemma.

Huihui-Qwen3.6-35B-A3B-abliterated-FP8-DYNAMIC — это FP8-квантизированная версия модели huihui-ai/Huihui-Qwen3.6-35B-A3B-abliterated, подготовленная разработчиком coolthor для инференса, прежде всего на NVIDIA DGX Spark с GB10 и 128 ГБ унифицированной памяти. Модель предназначена для генерации и анализа текста, а также обработки изображений; в карточке заявлены английский и китайский языки. Она совместима с vLLM и поддерживает автоматический выбор инструментов и вызовы инструментов через соответствующие парсеры Qwen3. Модель основана на архитектуре Qwen3.6 MoE с конфигурацией 35B-A3B. Используется схема динамической квантизации FP8_DYNAMIC в формате compressed-tensors: около 31 030 линейных модулей переведены в FP8 e4m3fn, а отдельные компоненты, включая визуальный модуль, lm_head и маршрутизаторы экспертов, сохранены в BF16. Размер на диске составляет примерно 36 ГБ вместо 67 ГБ у базовой BF16-версии. Сохранённые MTP-веса позволяют применять speculative decoding; в тесте на DGX Spark скорость достигала 51,72 токена в секунду против 30,71 токена в секунду у BF16-варианта. Рекомендуемая длина контекста при запуске в vLLM — до 32 768 токенов. К сильным сторонам относятся уменьшенный размер, поддержка текстово-визуального ввода и ускорение генерации с MTP. Для работы с изображениями требуется версия контрольной точки после исправления от 3 мая 2026 года; более ранние загрузки имели неисправный визуальный ввод. Карточка также предупреждает о проблемах точности и повторов при использовании FP8 KV-кэша на SM121, поэтому его применение не рекомендуется. Лицензия модели — Apache 2.0.

Karnak-6B-v1.0 — плотная причинно-языковая модель семейства Qwen3, разработанная Applied Innovation Center на основе Qwen/Qwen3-4B-Instruct-2507. Модель дообучена в несколько этапов с расширением глубины, продолжением предобучения и supervised fine-tuning; в карточке заявлены около 6 млрд параметров, а метаданные указывают 5,4 млрд. Для арабского применён оптимизированный токенизатор. Модель предназначена для генерации текста и диалогов на арабском и английском: она отвечает на вопросы, объясняет темы, пишет материалы и помогает работать с длинными документами и беседами. Метаданные указывают контекст до 262 144 токенов, тогда как README рекомендует ограничивать рабочий контекст 20 000 токенами для стабильной работы. Модель можно запускать локально или на собственных серверах, в том числе через Transformers и vLLM. Разработчик заявляет улучшенное следование инструкциям, беглость арабского текста и обработку длинных зависимостей; независимые показатели качества в предоставленных данных не приведены. Лицензия — Apache-2.0.

Карточка модели hamsterdlt/KDA_MT на Hugging Face совпадает с карточкой csebuetnlp/mT5_multilingual_XLSum, поэтому описание составлено по ней. mT5_multilingual_XLSum — модель семейства mT5, дообученная командой CSE BUET NLP на датасете XL-Sum для суммаризации текстов на 45 языках. Она принимает текст статьи или другого материала и генерирует краткое изложение; модель предназначена для многоязычной суммаризации, в том числе для языков с ограниченными ресурсами. Число параметров — 291,2 млн; архитектура — MT5ForConditionalGeneration, формат весов — PyTorch. Модель подходит для автоматического создания кратких пересказов и обработки многоязычных новостных материалов. В README приведены результаты ROUGE на тестовых наборах XL-Sum для разных языков. Карточка не сообщает об ограничениях на контекст или отдельном основном языке. Лицензия в предоставленных данных не указана.

LakeExpander — объединённая языковая модель, созданная allstax с помощью mergekit из cognitivecomputations/WestLake-7B-v2-laser и allstax/AI-G-Expander-v6. Это плотная модель семейства Mistral с архитектурой MistralForCausalLM и примерно 7,1 млрд параметров; веса сохранены в формате safetensors. Модель предназначена для генерации текста, включая диалоговые сценарии. Контекстное окно составляет 32 768 токенов. Объединение выполнено методом SLERP с типом данных float16. Репозиторий распространяется по лицензии Apache-2.0. Данных о специализированной предметной области или гарантированных характеристиках качества в карточке нет.

LettuceDetect от KRLabsOrg — англоязычная модель для выявления галлюцинаций в ответах, сформированных по контексту, например в системах RAG. Она дообучена для классификации токенов на базе answerdotai/ModernBERT-base и возвращает оценки для отдельных токенов ответа, которые можно объединить в фрагменты, не подтверждённые контекстом. В карточке указана поддержка контекста до 8192 токенов и обучение на датасете RagTruth; метаданные указывают архитектуру ModernBertForTokenClassification и 149 млн параметров. Модель принимает контекст и ответ и выдаёт разметку токенов. Модель подходит для проверки обоснованности ответов в RAG и подсветки неподтверждённых фрагментов. В README приведены результаты на RagTruth, но без числовых показателей для этой версии. Распространяется по лицензии MIT.

Карточка модели 4bit/Llama-2-13b-chat-hf на Hugging Face совпадает с карточкой NousResearch/Llama-2-13b-chat-hf, поэтому описание составлено по ней. NousResearch/Llama-2-13b-chat-hf — диалоговая языковая модель семейства Llama 2, разработанного Meta и опубликованная в формате для Transformers. Это авторегрессионная плотная модель на архитектуре Transformer с 12,9 млрд параметров, дообученная с помощью supervised fine-tuning и обучения с подкреплением на основе человеческой обратной связи. Она предназначена для диалогов в формате ассистента и генерации текста на английском языке; принимает и выдаёт текст, поддерживает контекст до 4096 токенов. Модель подходит для ответов на вопросы, ведения диалога, создания черновиков и других сценариев генерации текста. Для ожидаемого поведения чат-версии необходимо использовать предусмотренный формат сообщений Llama 2. Модель может выдавать неточные, предвзятые или нежелательные ответы, поэтому перед внедрением её следует проверять и настраивать под конкретное применение. Использование регулируется специальной лицензией Meta для Llama 2; для доступа к весам требуется принять её условия.

NousResearch/Llama-2-7b-chat-hf — диалоговая языковая модель семейства Llama 2, разработанного Meta и опубликованная в формате Hugging Face Transformers. Это плотный авторегрессионный трансформер с 6,6 млрд параметров; веса представлены в форматах PyTorch и Safetensors. Модель принимает текст и генерирует текст, а её контекст составляет 4096 токенов. Модель дообучена с помощью supervised fine-tuning и обучения с подкреплением по человеческим отзывам для диалогов в формате помощника. Она предназначена для ответов на вопросы, ведения диалога и генерации текста на английском языке. Для ожидаемого поведения нужно соблюдать форматирование Llama 2 Chat с соответствующими маркерами инструкций и токенами. Модель может выдавать неточные, предвзятые или нежелательные ответы, а проведённые оценки не охватывают все возможные сценарии. Данные предобучения имеют срез до сентября 2022 года. Использование регулируется собственной лицензией Meta для Llama 2; для получения весов требуется принять её условия.

Это плотная авторегрессионная модель семейства LLaMA 2, разработанная Да-вэем Чжу и соавторами в рамках работы PoSE. Чекпойнт содержит 6,6 млрд параметров и рассчитан на генерацию текста с контекстом до 16 384 токенов; расширение контекста использует позиционную интерполяцию YaRN и обучение Positional Skip-wisE (PoSE), которое имитирует длинные входы при обучении на фиксированном контексте. Модель предназначена для генерации продолжений и работы с длинными текстовыми запросами, например для анализа объемных документов или диалога с длинной историей. В README отмечена проблема с первоначально загруженным чекпойнтом: его заменили 27 ноября 2023 года, поскольку прежняя версия не соответствовала реализации из репозитория и показывала неоптимальное качество. В метаданных указана лицензия MIT; доступность лицензии не гарантирует пригодность ответов для конкретных применений.

Mylesgoose/Llama-3.1-70B-Instruct-abliterated — текстовая инструкционная модель на базе Meta Llama 3.1 70B, у которой, согласно карточке, ортогонализован слой 14. Она использует авторегрессионную архитектуру Transformer семейства Llama и предназначена для диалоговой генерации текста; размер составляет 69,5 млрд параметров, контекст — до 131 072 токенов. Модель подходит для многоязычного общения с ассистентом и генерации текста. В карточке базовой модели заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Метаданные отмечают интерфейс вызова инструментов, однако это не означает, что инструменты встроены: их интеграцию выполняет приложение. В карточке производной модели не приведены отдельные оценки качества или подробности изменения слоя, поэтому характеристики исходной Llama 3.1 не следует считать независимой оценкой этой версии. Модель распространяется по лицензии Llama 3.1 Community License (идентификатор лицензии в метаданных: llama3.1); применение регулируется её условиями и политикой допустимого использования.

Rewarded Soups on TL;DR — экспериментальная модель, созданная методом линейной интерполяции экспертных моделей, обученных на общей начальной инициализации. Разработчики применили подход Rewarded Soups из работы Rame et al. (NeurIPS 2023) к базе meta-llama/Llama-3.1-8B-Instruct; опубликованные метаданные указывают 7,5 млрд параметров, архитектуру LlamaForCausalLM, формат safetensors и контекст до 131 072 токенов. Модель предназначена для генерации кратких резюме по панели TL;DR с балансом покрытия, точности относительно исходного текста, краткости и полезности. Вес интерполяции выбирали по проверочным запросам; в описанном эксперименте указаны 300 обновлений оптимизатора и глобальный размер пакета 16. Сравнительную оценку проводили на отложенных запросах, не использованных для подбора, с помощью Llama-3.3-70B-Instruct. Модель принимает текст и генерирует текст. Метаданные указывают лицензию Llama 3.1; для использования необходимо соблюдать её условия. Результаты относятся к описанному протоколу оценки, а карточка не приводит численных показателей качества или сведений о поддержке языков.

Llama-3.1-Tulu-3-405B-DPO — большая языковая модель семейства Tülu 3, разработанная Allen Institute for AI (Ai2). Это плотная авторегрессионная модель на архитектуре Llama 3.1 с 403,7 млрд параметров, дообученная методом DPO на основе allenai/Llama-3.1-Tulu-3-405B-SFT. Она предназначена для диалогов и следования инструкциям, а также для широкого круга текстовых задач, включая математические рассуждения и выполнение заданий по заданным критериям. Контекстное окно составляет до 131 072 токенов; основной язык — английский. Модель подходит для создания чат-ассистентов, ответов на вопросы и решения сложных текстовых задач. Карточка приводит результаты оценки на нескольких бенчмарках, включая MATH, GSM8K и IFEval, и описывает её как модель с сильными результатами на разнообразных задачах. Для запуска доступны веса PyTorch и библиотека Transformers. Модель распространяется по Llama 3.1 Community License Agreement. Авторы отмечают, что обучение безопасности ограничено: без дополнительной фильтрации модель может выдавать проблемные ответы, особенно при соответствующих запросах. Для инференса также нужны значительные вычислительные ресурсы из-за размера модели.

Llama-Thinker-3B-Preview — мультиязычная генеративная модель prithivMLmods на архитектуре Llama 3.2, дообученная на базе meta-llama/Llama-3.2-3B-Instruct. Модель содержит 3,2 млрд параметров и предназначена для диалога, генерации текста и решения задач, требующих рассуждений. По карточке, обучение включало supervised fine-tuning и обучение с подкреплением на синтетических данных с длинными цепочками рассуждений. Модель принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. Метаданные перечисляют английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель доступна в формате safetensors и запускается через Transformers; для локального запуска карточка также описывает использование квантованных вариантов через Ollama. Лицензия — CreativeML OpenRAIL-M.

llm-jp-3-7.2b-instruct — языковая модель, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это плотная Transformer-модель семейства Llama с 7,2 млрд параметров, доступная в формате Hugging Face Transformers и обученная продолжать диалог и выполнять инструкции. Модель принимает текст и генерирует текст; контекст составляет 4096 токенов. Модель подходит для ответов на вопросы, написания и извлечения текста, рассуждений и диалога на японском и английском языках. Она предварительно обучена на смеси данных объёмом 2,1 трлн токенов и дополнительно настроена на наборах инструкций, включая японские инструкции и примеры, ориентированные на безопасность. В оценке Japanese MT Bench версия 7.2b-instruct получила средний балл 5,70. Авторы отмечают, что модель находится на раннем этапе разработки и не настроена для надёжного соответствия намерениям пользователя и требованиям безопасности. Лицензия — Apache-2.0; для запуска требуются Transformers и PyTorch совместимых версий.

llm-jp-3-8x13b-instruct2 — диалоговая языковая модель, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это трансформерная модель семейства Mixtral с архитектурой Mixture of Experts: 8 экспертов, из которых активируются 2. Вариант содержит около 73,2 млрд параметров всего и около 22,2 млрд активируемых параметров; метаданные каталога указывают 13,2 млрд параметров. Контекст — 4096 токенов. Модель обучена на смеси данных, включая японские, и дообучена на инструкциях с последующим выравниванием методом Direct Preference Optimization. Модель предназначена для диалога и генерации текста, особенно на японском и английском языках. Её можно использовать для ответов на вопросы, следования инструкциям, краткого изложения и других текстовых задач. Карточка приводит оценки на японских тестах, но результаты относятся к отдельным оценочным выборкам и не гарантируют качество в конкретном приложении. Разработчики предупреждают, что модель находится на ранней стадии разработки и не настроена для гарантированного соответствия человеческим намерениям и требованиям безопасности. Лицензия — Apache-2.0.

llm-jp-4-32b-a3b-thinking — языковая модель семейства LLM-jp-4, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это Transformer-модель с архитектурой Qwen3 MoE: 32 слоя, 128 экспертов, из которых активируются 8; общий размер составляет около 32,1 млрд параметров, а число активных параметров — около 3,8 млрд. Модель предназначена для генерации текста и диалогового общения, в том числе для задач, требующих рассуждений. Контекстное окно составляет 65 536 токенов. Модель обучалась на 11,7 трлн токенов, а постобучение включало SFT и DPO без обучения с подкреплением. Карточка указывает японский и английский языки. Для корректного использования следует применять прилагаемый токенизатор: хотя шаблон чата совместим с форматом OpenAI Harmony, токенизация библиотекой openai-harmony напрямую не поддерживается. Разработчики предупреждают, что модель находится на ранней стадии исследований и разработки и не настроена для гарантированного соответствия человеческим намерениям и требованиям безопасности. Лицензия — Apache-2.0.

LongLLaMA-3B — языковая модель с авторегрессионной архитектурой LongLlama, разработанная авторами метода Focused Transformer на основе OpenLLaMA-3B. Модель содержит 3,3 млрд параметров и дообучена методом FoT для работы с длинным контекстом. Репозиторий предоставляет веса PyTorch и Safetensors по лицензии Apache-2.0. Модель предназначена для генерации текста, ответов на вопросы и извлечения сведений из длинных входных последовательностей. В карточке заявлена обработка контекста до 256 тыс. токенов и более; для этого вход разбивается на окна, а механизм памяти сохраняет ключи и значения выбранных слоёв. Обычный режим совместимости с реализацией LLaMA ограничен контекстом в 2048 токенов. Авторы показывают результаты на извлечении ключевой фразы, классификации вопросов TREC и ответах на вопросы WebQS. К заявленным преимуществам относятся расширение контекста без обучения на последовательностях такой длины и сохранение результатов на короткоконтекстных задачах. Качество на очень длинных последовательностях зависит от специального механизма обработки контекста и настроек памяти; README приводит в основном иллюстративные оценки на отдельных задачах. В метаданных длина контекста указана как 2048 токенов, что соответствует базовому режиму без расширения контекста.

LWM-Text-Chat-512K — открытая авторегрессионная языковая модель семейства LLaMA, созданная LargeWorldModel на основе LLaMA-2. Это плотный трансформер с 6,6 млрд параметров и контекстом до 524 288 токенов, предназначенный для генерации текста и работы с очень длинными документами. Модель обучали в декабре 2023 года на подмножестве Books3: 3 500 документов длиной от 500 тысяч до 1 миллиона токенов. Модель может применяться для продолжения текста, диалога и анализа длинных материалов в пределах контекстного окна. Карточка не описывает отдельные результаты оценки качества или подробные ограничения; производительность на конкретных задачах следует проверять отдельно. В репозитории указаны веса PyTorch. Лицензия в предоставленных данных не указана.

Bineric Lynx Instruct 30B — языковая модель компании Bineric из Осло, дообученная на основе Qwen/Qwen3-30B-A3B-Instruct-2507 для европейских языков с особым упором на норвежский, шведский, датский и исландский. Она предназначена для диалогов, генерации текстов и выполнения инструкций; в карточке указаны результаты оценки на задачах распознавания именованных сущностей, анализа тональности, чтения с пониманием и суммаризации на северных языках. Модель использует архитектуру Qwen3 MoE с 30 млрд параметров суммарно и примерно 3 млрд активных параметров на токен; контекстное окно составляет 262 144 токена. Репозиторий содержит веса Safetensors, библиотека запуска — Transformers. Карточка заявляет поддержку более 100 языков, а метаданные подтверждают английский, норвежский, шведский и датский; языки с основными оценками — также исландский. Доступны варианты в bf16, 8-битном и 4-битном представлении, причём квантование может снижать качество. Сильные стороны по приведённым оценкам — распознавание сущностей и понимание прочитанного на северных языках, а также датские тесты на знания. Слабее модель справляется с грамматическими суждениями, исландским здравым смыслом и норвежскими идиомами. Лицензия — Apache-2.0; модель доступна для самостоятельного размещения и интеграции через API.

Maverick Llama 3 8B — диалоговая языковая модель на архитектуре Llama, созданная feeltheAGI на базе Meta Llama 3 8B и дообученная на наборе feeltheAGI/maverick-sharegpt. Модель содержит около 7,5 млрд параметров, принимает текст и предназначена для генерации ответов в формате чата с шаблоном ChatML; заявленная длина контекста — 8192 токена. Модель подходит для диалогового ассистента, ответов на вопросы, рассуждений и решения задач по математике. В карточке приведены результаты тестов EQ-Bench, WinoGrande, GSM8K и MathQA, но они не гарантируют качество в конкретных сценариях. Репозиторий предоставляет веса в формате Safetensors. Метаданные указывают лицензию Apache 2.0, тогда как README ссылается на Meta Llama 3 Community License Agreement; условия использования следует сверять с лицензией базовой модели.

MaziyarPanahi/MeliodasPercival_01_Experiment26Shadow — объединённая модель семейства Mistral с 7,1 млрд параметров, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/Experiment26Shadow-7B. Модель предназначена для генерации текста и диалогов, принимает текст и выдаёт текст; поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате Safetensors и распространяется по лицензии Apache-2.0. Данные карточки не уточняют языковую специализацию и дополнительные возможности модели.

MergerixStrangemerges_32-7B — автоматическое слияние моделей, созданное Maxime Labonne на основе Gille/StrangeMerges_32-7B-slerp и MiniMoog/Mergerix-7b-v0.3. В репозитории указаны метод слияния dare_ties, плотность 0,53, вес 0,6 и формат bfloat16; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров. Модель предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Лицензия — Apache-2.0. В README не описаны конкретные языки и специализированные сценарии применения.

RedHatAI/Meta-Llama-3.1-8B-FP8 — квантизированная версия базовой текстовой модели Meta-Llama-3.1-8B, разработанная Neural Magic. Модель принимает текст и генерирует текст, предназначена для коммерческого и исследовательского использования, включая многоязычные сценарии. В README указаны английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки, однако отдельно отмечено ограничение на использование в языках, отличных от английского. Модель использует архитектуру Meta-Llama-3.1 и формат FP8 для квантизации весов и активаций линейных операторов в трансформерных блоках. Применяется симметричная поканальная для всего тензора квантизация с фиксированным масштабированием; выходной слой lm_head не квантизируется. Размер модели — 8 миллиардов параметров. Оптимизация уменьшает число бит на параметр с 16 до 8, а также примерно на 50% сокращает требования к дисковому пространству и памяти GPU. Модель подготовлена для инференса с vLLM. К сильным сторонам относятся снижение требований к памяти и более эффективное развертывание при сохранении характеристик исходной модели: средний результат на OpenLLM benchmark v1 составил 65,90 против 66,47 у неквантизированной версии. К ограничениям относятся возможная потеря качества из-за квантизации, отсутствие заявленной информации о размере контекста и необходимость совместимого окружения vLLM. Модель распространяется по лицензии llama3.1.

MiniCPM-1B Calibrated — это дообученная и выровненная модель causal language model на базе openbmb/MiniCPM-1B-sft-bf16, разработанная ewinregirgojr. Модель содержит около 1,08 млрд параметров, использует decoder-only архитектуру Transformer и формат ChatML, поддерживает английский язык и контекст длиной до 2 048 токенов. Она предназначена для генерации текста и диалоговых сценариев, где важны следование инструкциям, фактическая точность и объективность. Основные сценарии применения включают ответы на вопросы с опорой на предоставленный контекст, честный отказ от ответа при отсутствии достаточных доказательств, исправление заблуждений и диалог без некритичного согласия с ошибочными утверждениями. Благодаря небольшому размеру модель ориентирована на низколатентный запуск, периферийные устройства и локальный inference. В обучении использовались UltraFeedback, SQuAD v2 и датасет rm_sycophancy_dpo; применялась Identity Preference Optimization с LoRA-адаптерами. Сильными сторонами модели заявлены устойчивость к галлюцинациям и sycophancy, а также низкая частота необоснованных отказов: в документации указаны anti-sycophancy resistance 93,4% и over-refusal rate менее 2,1% на внутренней валидации. Ограничения связаны с размером модели: сложное многошаговое символьное рассуждение может быть слабее, чем у моделей масштаба 7B и выше, а для специализированных технических областей рекомендуется использовать retrieval-augmented generation. Модель не предназначена для автономных медицинских, юридических или финансовых решений без проверки человеком. Лицензия — Apache-2.0.

Mistral-7B-Holodeck-1-Instruct-32k — текстовая генеративная модель, созданная mpasila слиянием моделей через mergekit по методу DARE TIES. В основу взята alpindale/Mistral-7B-v0.2-hf, а в слияние также вошли mistralai/Mistral-7B-Instruct-v0.2 и KoboldAI/Mistral-7B-Holodeck-1. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате. Контекст составляет до 32 768 токенов, что подходит для работы с длинными запросами и документами. В репозитории указаны веса safetensors и библиотека Transformers. README и метаданные не сообщают о поддерживаемых языках, специальных областях применения или измеренных качествах модели. Лицензия в предоставленных данных не указана.

Модель TesNik369/mistral-7b-instruct-v0.2-bnb-4bit_tqa_tuned_seed_42 — дообученная TesNik369 версия Mistral 7B Instruct v0.2, созданная с использованием Unsloth и библиотеки TRL. Это плотная авторегрессионная языковая модель на 7,1 млрд параметров для генерации текста и диалогового взаимодействия; заявленная длина контекста — 32 768 токенов. В карточке не описана специализация дообучения, поэтому модель можно характеризовать как универсальную инструктивную модель. Модель принимает текст и генерирует текст. Указана поддержка английского языка. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Конкретные ограничения или результаты оценки качества в карточке не приведены.