II.2Создание и понимание программного кода

QuantFactory/ArliAI-Llama-3-8B-Dolfin-v0.3-GGUF — квантизированная версия модели OwenArli/ArliAI-Llama-3-8B-Dolfin-v0.3, созданная QuantFactory с использованием llama.cpp. Модель основана на Meta-Llama-3-8B-Instruct и дообучена на улучшенном наборе данных Dolphin и WizardLM. Модель предназначена для генерации текста, диалоговых сценариев и выполнения пользовательских инструкций. Дообучение ориентировано на более точное следование инструкциям и менее частые отказы от ответов. Поддерживается чатовый формат с системными сообщениями, пользовательскими запросами и ответами ассистента. Размер базовой модели составляет 8 млрд параметров; используется архитектура семейства Llama 3 и текстовая модальность. Обучение проводилось с длиной последовательности 2048 токенов, при этом заявлена работоспособность с контекстом до 8192 токенов. Дообучение выполнялось методом QLoRA с 4-битной загрузкой, рангом 64 и alpha 128; обучаемыми были примерно 2% параметров. Данные о поддерживаемых языках, конкретных параметрах квантизации и результатах бенчмарков не приведены. Модель может быть полезна в локальных приложениях и системах, где важны экономичное использование памяти и выполнение инструкций. Ограничения включают отсутствие опубликованных результатов OpenLLM Benchmark и неполное описание характеристик квантизированных вариантов. Использование регулируется лицензией Meta Llama 3 License, обозначенной в карточке как llama3.

ArnavKewalram/bge-base-code-v1 — текстовая модель Sentence Transformers, дообученная на базе BAAI/bge-base-en-v1.5. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для поиска и сравнения по смыслу; сходство оценивается косинусной мерой. Архитектура включает BERT, пулинг CLS и нормализацию эмбеддингов. Модель предназначена для извлечения эмбеддингов из текста, семантического поиска по фрагментам кода и построения retrieval-компонента для RAG. В README максимальная длина последовательности указана как 384 токена, а метаданные каталога — как 512; фактический предел может зависеть от конфигурации и способа использования. Основание для названия «code» есть в идентификаторе репозитория, но README не уточняет обучение или специализацию на коде. Лицензия в предоставленных данных не указана.

win10/BigLiberated-20B-V2 — разговорная языковая модель на архитектуре Qwen2, созданная слиянием предварительно обученных моделей с помощью mergekit и метода passthrough. В README указана участвовавшая в слиянии модель abacusai/Liberated-Qwen1.5-14B. Модель предназначена для генерации текста и диалоговых сценариев. Она содержит 19,4 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors; для работы указана библиотека Transformers. Лицензия в предоставленных данных не указана.

bruphin-zeta — объединённая методом SLERP языковая модель от nbeerbower, созданная с помощью mergekit на основе bruphin-epsilon и Dolphin 2.6 Mistral 7B DPO Laser. Это плотная авторегрессионная модель архитектуры Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и диалогов, а конфигурация указывает на совместимость с шаблоном ChatML. Модель может использоваться для диалоговых ассистентов и генерации ответов с длинным контекстом. Карточка не приводит отдельных результатов оценки или перечня языков. Лицензия — Apache-2.0.

NVIDIA Qwen3-8B FP4 — это квантизированная версия авторегрессионной языковой модели Qwen3-8B, разработанной Alibaba и подготовленной с применением TensorRT Model Optimizer от NVIDIA. Модель предназначена для коммерческого и некоммерческого использования в AI Agent системах, чат-ботах, RAG-системах и других приложениях на базе генерации текста. Модель построена на архитектуре Transformers и содержит около 8,2 млрд параметров. Она работает с текстовыми последовательностями, принимает и возвращает строки, поддерживает контекст длиной до 131 тыс. токенов. Веса и активации линейных операторов внутри transformer-блоков квантизированы в формат FP4, что ориентировано на эффективный инференс через TensorRT-LLM. Указана совместимость с GPU-ускорителями NVIDIA Blackwell, тестирование проводилось на B200; предпочтительная операционная система — Linux. Поддерживаемый runtime — TensorRT-LLM, версия Model Optimizer — 0.35.0. Сильными сторонами модели являются предварительная FP4-квантизация, большой контекст и готовность к развертыванию в оптимизированном стеке NVIDIA. Ограничения включают зависимость от TensorRT-LLM и рекомендуемого оборудования NVIDIA Blackwell, а также отсутствие в README подробностей о языковом покрытии, результатах тестирования, обучающих данных и характеристиках качества. Калибровка выполнялась на датасете cnn_dailymail. Модель распространяется по лицензии Apache License 2.0; при использовании разработчикам рекомендуется самостоятельно оценивать качество, риски и соответствие конкретным отраслевым требованиям.

sasa2000/cosmos-reason2-2b-text-only — неофициальная текстовая версия NVIDIA Cosmos-Reason2-2B, подготовленная автором репозитория sasa2000. Это плотная причинная языковая модель Qwen3ForCausalLM: из исходной мультимодальной модели оставлены языковой блок и выходной слой lm_head, а компоненты обработки изображений и видео удалены. В метаданных указано 1,7 млрд параметров и контекст до 262 144 токенов. Модель предназначена для генерации текста и диалогового использования. Она загружается через Transformers как Qwen3ForCausalLM; README сообщает об успешной загрузке и проверочном прямом проходе. В отличие от исходной Cosmos-Reason2-2B, этот чекпойнт не принимает изображения или видео и не включает соответствующие процессоры и проектор. Репозиторий помечен лицензией other; конкретные условия README не приводит. Это производный чекпойнт, созданный не NVIDIA, поэтому перед использованием следует проверить условия исходной модели и репозитория.

anemll публикует пакет SSD Flash-MoE для DeepSeek V4 Flash, предназначенный для запуска в совместимых сборках llama.cpp. Это квантованное представление модели: общие и плотные тензоры хранятся в GGUF в формате FP8, а тензоры маршрутизируемых экспертов — в отдельных бинарных банках sidecar в формате FP4. Архитектура deepseek4 содержит 43 блока и 256 экспертов, из которых для каждого токена активируются 6; заявленная длина контекста — 1 048 576 токенов. Пакет предназначен для генерации текста и диалогового использования. Он требует Flash-MoE-совместимого runtime llama.cpp с поддержкой DeepSeek V4 Flash, режима slot-bank и указанных типов тензоров; обычной загрузки одного плотного GGUF недостаточно. Репозиторий указывает лицензию MIT. В карточке не заявлены специальные ограничения по языкам или предметным областям.

DeepSeek-V4-Pro-Qwen3.5-9B — компактная языковая модель класса 9B, созданная Kottk14-02-09 на основе unsloth/Qwen3.5-9B. Это reasoning-ориентированная дистилляция ответов DeepSeek-V4-Pro в режиме Max Effect с дополнительной настройкой под математику и STEM-задачи. В README также указано сотрудничество с инженером по аппаратному обеспечению Kyle Hessling, который помогал с инфраструктурой, обучением и оцениванием. Модель предназначена для генерации текста, многошагового решения математических и научных задач, структурированного рассуждения, а также может применяться в программировании, tool use и function calling. Обучение включало примерно 250 000 примеров по математике и STEM; при этом заявлены небольшие улучшения в программировании и использовании инструментов даже без специализированных данных для SFT по коду. Поддерживаются английский, китайский, корейский, японский, испанский и русский языки. Модель относится к текстовым генеративным моделям; сведения о мультимодальности и размере контекста в README не указаны. К сильным сторонам относятся относительно небольшой размер, практичная развёртываемость и фокус на математическом и научном рассуждении. Для запуска и оценки упомянуты vLLM с NVFP4 и llama.cpp с MTP-Q8_0. Ограничения модели, точные результаты бенчмарков, качество по отдельным языкам и требования к аппаратному обеспечению не приведены, поэтому их следует проверять самостоятельно. Модель распространяется по лицензии Apache-2.0.

QuantFactory/dolphin-2.1-mistral-7b-GGUF — квантизированная версия модели Dolphin 2.1 на базе cognitivecomputations/dolphin-2.1-mistral-7b, созданная QuantFactory с использованием llama.cpp. Модель разработана в рамках проекта Dolphin; обучение спонсировала a16z. Она предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы, выполнение инструкций и творческие задачи. Модель основана на архитектуре Mistral с размером 7B параметров и распространяется в формате GGUF. Поддерживает текстовую модальность, английский язык и формат запросов ChatML. Для обучения использовались датасеты ehartford/dolphin и jondurbin/airoboros-2.2.1; Dolphin описывается как открытая реализация подхода Microsoft Orca с дополнительной очисткой, дедупликацией и повышением качества данных. К сильным сторонам относятся высокая готовность следовать инструкциям, универсальность и ориентация на творческую генерацию. Модель позиционируется как uncensored: из обучающих данных удалялись элементы alignment и bias, поэтому она может выполнять потенциально небезопасные или неэтичные запросы. При использовании в сервисах рекомендуется самостоятельно добавить слой выравнивания и фильтрации. Сведения о размере контекста и точных параметрах квантизации в README не указаны. Лицензия — Apache-2.0, допускающая коммерческое и некоммерческое использование.

DPOpenHermes-7B — диалоговая языковая модель Open Access AI Collective, созданная на базе OpenHermes-2.5-Mistral-7B. Модель с архитектурой Mistral и 7,1 млрд параметров дообучена методом Direct Preference Optimization на наборах предпочтений Intel/orca_dpo_pairs и argilla/ultrafeedback-binarized-preferences, а затем дополнительно обучена на 7000 примерах OpenHermes, чтобы корректно завершать ответы токеном конца последовательности. Для обучения использовался qLoRA; репозиторий также содержит адаптер. Модель предназначена для генерации текста и многоходового общения в формате ChatML, включая выполнение инструкций и ответы на вопросы. Она принимает текстовые диалоговые сообщения и генерирует текст; заявленный размер контекста — 32 768 токенов. В карточке указаны английский язык и Apache-2.0. README отмечает, что дополнительное SFT снизило результаты бенчмарков по сравнению с DPO-only версией; в описании также упоминается исходная DPO-only модель в ветке dpo-v0.

Etheria-55b-v0.1 — плотная языковая модель семейства Llama, созданная слиянием моделей серии Etheria и моделей Yi-34B-200K. Автор объединил варианты VerA и VerB, затем применил метод DARE TIES; в метаданных указаны 55,1 млрд параметров и формат safetensors. Модель предназначена для генерации текста и диалогового общения; в README указана совместимость с форматами запросов ChatML и Alpaca. Для контекста заявлена теоретическая длина до 200 000 токенов, однако автор рекомендует начинать с 32 000 токенов, поскольку влияние слияния на работу с длинным контекстом не проверено. README сообщает о тестировании до 32 000 токенов через exl2 и приводит результаты нескольких оценок на Open LLM Leaderboard. Модель распространяется по лицензии Apache-2.0.

Experiment26Neuralsirkrishna_Experiment26Strangemerges_30 — объединённая автором репозитория модель на архитектуре Mistral с 7,1 млрд параметров. Веса объединены из automerger/Experiment26Neuralsirkrishna-7B и automerger/Experiment26Strangemerges_30-7B. Модель предназначена для генерации текста и диалогов. Она принимает текст и может обрабатывать контекст длиной до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Experiment28M7_YamT3qm7xp — объединённая модель генерации текста на архитектуре Mistral, созданная путём слияния automerger/Experiment28M7-7B и automerger/YamT3qm7xp-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста по запросу и работы с длинными текстовыми контекстами. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

ehristoforu/falcon3-ultraset — дообученная разговорная языковая модель на основе tiiuae/Falcon3-7B-Instruct, разработанная ehristoforu. Она предназначена для генерации текста и диалогов; карточка сообщает о дообучении с использованием Unsloth и TRL. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,1 млрд параметров и контекст до 32 768 токенов. Доступна в формате safetensors и распространяется по лицензии Apache-2.0. Базовая модель поддерживает несколько языков и рассчитана на диалоги, рассуждения, программирование и математические задачи; сведения карточки этой модели отдельно подтверждают английский язык и разговорное назначение. Метаданные также отмечают интерфейс для вызова инструментов. Конкретные результаты оценки качества и подробности обучающего набора в карточке не приведены.

Это диалоговая языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная MaziyarPanahi слиянием моделей mistralai/Mistral-7B-Instruct-v0.2 и Darklord23/finetuned-mistral-7b методом SLERP. Она предназначена для генерации текста и ответов на инструкции в формате чата. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Модель может использоваться для диалога, ответов на вопросы и генерации текста по запросу. В карточке указана лицензия Apache-2.0. Сведения о специализированных областях применения и дополнительных ограничениях качества не приводятся.

G9v3-39A5B-GGUF — это неофициальная конверсия предварительной языковой модели G9v3-39A5B, разработанной AI9Stars, в формат GGUF. Конверсию выполнил linuxid10t для запуска через llama.cpp. Модель предназначена для генерации текста, диалогов, задач с длинным контекстом и сценариев с вызовом инструментов; заявлена поддержка режимов Think и No-Think. Поддерживаемые языки — английский и китайский. Модель использует архитектуру G9v3ForCausalLM со sparse Mixture-of-Experts: около 39 млрд параметров всего и примерно 5 млрд активных на один токен. Она содержит 38 слоёв, включая один плотный и 37 MoE-слоёв, 320 маршрутизируемых экспертов, из которых выбираются 32, а также одного общего эксперта. Максимальный контекст составляет 131 072 токена. Доступны варианты BF16, Q8_0, Q4_K_M и IQ4_XS; квантованные версии уменьшают требования к памяти, но могут снижать точность по сравнению с BF16. Основное ограничение — модель является preview-релизом, а поддержка архитектуры G9v3 ещё не включена в стандартные сборки llama.cpp: требуется специальная ветка с поддержкой G9v3. Рекомендуемый объём оперативной памяти составляет не менее 96 ГиБ для BF16, 48 ГиБ для Q8_0 и 32 ГиБ для Q4_K_M или IQ4_XS, причём фактические требования зависят от размера контекста и настроек запуска. Репозиторий распространяется по лицензии Apache-2.0.

Gemma3.5-48B-A4B-Q4_K_M — созданная сообществом модель для диалогов и следования инструкциям, опубликованная XxACCOxX в формате GGUF. Она объединяет поведение Gemma 3 27B с базовой архитектурой Gemma 4 26B A4B: к исходным экспертам Gemma 4 добавлен банк экспертов, полученный дистилляцией активаций Gemma 3. В модели 48,1 млрд параметров, из которых на один токен задействуется около 3,8 млрд; используется 8 экспертов из 256. Контекст составляет 262 144 токена, квантование — Q4_K_M. Модель предназначена для локального общения в режиме прямых ответов, решения математических задач, технических запросов и вопросов на общие знания. Автор приводит результат 63,21% на подвыборке MMLU-Pro из 280 заданий без режима рассуждений; это результат описанного теста, а не гарантия качества для других задач. Для запуска предназначены стеки локального инференса, например llama.cpp и Ollama. Лицензия указана как other; конкретные условия в предоставленных данных не раскрыты.

MLX-версия языковой модели GLM-4.7, разработанной организацией zai.org и конвертированной сообществом mlx-community из исходной модели zai-org/GLM-4.7 с помощью mlx-lm 0.30.0. Модель предназначена для генерации текста и запуска в экосистеме MLX, в том числе через библиотеку mlx-lm на совместимом оборудовании Apple. Типичные сценарии включают диалоговое взаимодействие и другие задачи текстовой генерации. Модель использует 6-битное квантование и формат MLX. В карточке указаны поддерживаемые языки English и Chinese, модальность — текстовая. Архитектура, количество параметров и размер контекста в README не уточняются. К сильным сторонам относятся адаптация для MLX и снижение требований к памяти благодаря 6-битному представлению; ограничения — отсутствие подробных данных о качестве, производительности, точном аппаратном охвате и возможностях исходной GLM-4.7. Модель распространяется по лицензии MIT.

GPT-5.6 Terra Pro — вариант GPT-5.6 Terra от OpenAI, работающий с параметром reasoning.mode, установленным в значение pro. Он предназначен для получения более качественных ответов на сложные задачи. В карточке модели не приведены сведения об архитектуре, размере, модальностях, языках или лицензии.

Карточка модели marafx2007/gpt-oss-20b-heretic на Hugging Face совпадает с карточкой p-e-w/gpt-oss-20b-heretic, поэтому описание составлено по ней. p-e-w/gpt-oss-20b-heretic — текстовая разговорная модель на архитектуре GPT-OSS, созданная на основе openai/gpt-oss-20b с помощью abliteration, направленной на снижение отказов. В карточке приведено сравнение: в тесте на 100 запросах модель отказала в 58 случаях против 100 у исходной модели; KL-дивергенция составила 0,96. README также описывает базовую модель как MoE с 21 млрд параметров и 3,6 млрд активных параметров, контекстом 131 072 токена и форматом Harmony; метаданные репозитория при этом указывают 1,6 млрд параметров. Модель предназначена для диалога, генерации текста и локальных или специализированных сценариев. Базовая модель поддерживает настраиваемый уровень рассуждений, вызов функций и агентные сценарии; в этом репозитории заявлено снижение числа отказов, но приведённый тест не гарантирует поведение на других запросах. Для корректной работы следует использовать формат Harmony. Лицензия — Apache-2.0.

Hermes-Instruct-7B-217K — диалоговая языковая модель на архитектуре Mistral, созданная Lodrick the Lafted. Это дообученная версия Mistral-7B-Instruct-v0.2, обученная на 217 тысячах примеров из teknium/openhermes в формате Alpaca. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых инструкций. Она принимает запросы в формате Mistral-Instruct или Alpaca; токенизатор по умолчанию настроен на Alpaca. Автор описывает обучение на разном объёме данных как эксперимент по оценке влияния дальнейшего дообучения. Репозиторий предоставляет веса PyTorch и Safetensors. Модель распространяется по лицензии Apache-2.0. Результаты зависят от запроса и контекста; карточка не приводит отдельной оценки качества или подробностей ограничений.

InnerILLM-OpenPipe-Nous-Yarn-Mistral-optimized-1228-7B-slerp — объединённая модель на базе Mistral, созданная с помощью LazyMergekit методом SLERP из OpenPipe/mistral-ft-optimized-1218 и NousResearch/Yarn-Mistral-7b-128k. Она предназначена для генерации текста и диалоговых сценариев; второй компонент ориентирован на работу с длинным контекстом. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и принимает текст, выдавая текст. Метаданные указывают длину контекста 32 768 токенов. Модель опубликована в формате Safetensors и распространяется по лицензии Apache-2.0. README описывает состав и метод слияния, но не приводит оценок качества или подробных результатов тестирования, поэтому пригодность для конкретных задач следует проверять на собственных данных.

Josiefied-Qwen3-14B-abliterated-v3 — дообученная Гёкденизом Гюльмезом плотная языковая модель семейства Qwen3 с 14 млрд параметров, созданная на базе Qwen/Qwen3-14B. Она предназначена для диалогов, следования инструкциям и генерации текста с ослабленной фильтрацией ответов; также поддерживает интерфейс вызова инструментов. Модель принимает текст и генерирует текст, а её нативная длина контекста составляет 40 960 токенов. Модель ориентирована на продвинутых пользователей, которым нужны открытые ответы и сохранение возможностей инструкционного диалога и работы с инструментами. В README также упоминаются варианты квантизации GGUF и MLX, однако эта карточка содержит веса в формате safetensors. Автор предупреждает, что сниженная фильтрация может приводить к чувствительным или спорным ответам. Условия лицензирования в предоставленных данных не указаны.

Это декензурированная версия K2-Horizon-MoVA-36B-A4B, созданная с помощью Heretic v1.4.0. Исходная модель разработана IFM и представляет собой разреженную архитектуру Mixture-of-Experts с механизмом внимания Mixture-of-Values (MoVA). В README указано 36 млрд параметров модели и около 4 млрд активных на токен; метаданные каталога указывают 3,7 млрд параметров. Контекст модели — до 524 288 токенов. Модель предназначена для генерации текста в диалоге, рассуждений и агентных сценариев; поддерживает интерфейс вызова инструментов. В карточке описано снижение частоты отказов после abliteration, однако в приведённом сравнении модель всё ещё отказывала в 56 из 100 запросов против 98 у оригинала. Указанные языковые сведения ограничены английским. Репозиторий содержит веса Safetensors и рассчитан на использование через Transformers; в README также приведены инструкции для vLLM и SGLang. Лицензия — Apache-2.0. Для запуска исходной конфигурации автор приводит пример с двумя ускорителями H200; это не устанавливает минимальные требования для всех вариантов развёртывания.

unsloth/Llama-3.2-1B-bnb-4bit — 4-битная версия модели Meta Llama 3.2 с базовой моделью meta-llama/Llama-3.2-1B, подготовленная Unsloth для эффективного запуска и дообучения. Это авторегрессионная языковая модель на оптимизированной архитектуре Transformer с поддержкой библиотеки Transformers. Модель работает в режиме текст-ввод — текст-вывод и предназначена для генерации текста, диалоговых приложений, суммаризации и агентных сценариев поиска информации. Модель имеет размер 1B параметров и использует квантование bnb 4-bit, что снижает требования к памяти по сравнению с полноразмерными вариантами. Для семейства Llama 3.2 заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков; модель обучалась на более широком наборе языков, однако качество для языков вне официально поддерживаемых может отличаться. Контекстное окно и другие архитектурные параметры в предоставленных данных не указаны. Сильные стороны модели — компактный размер, экономичное использование памяти и удобство последующего дообучения с помощью инструментов Unsloth. Ограничения включают статичный характер обучения на офлайн-данных, возможное снижение качества из-за 4-битного квантования и отсутствие в карточке подробных результатов бенчмарков, параметров контекста и сведений о конкретной версии дообучения. Использование регулируется пользовательской лицензией Llama 3.2 Community License и Acceptable Use Policy Meta; лицензия является специальной коммерческой лицензией.

Llama3-8B-1.58-100B-tokens — большая языковая модель, разработанная командой HF1BitLLM на базе Meta Llama 3 8B Instruct. Модель дообучена с использованием архитектуры BitNet 1.58b и предназначена для генерации текста и решения стандартных задач, поддерживаемых каузальными языковыми моделями. Для загрузки используется Transformers, а токенизатор — от meta-llama/Meta-Llama-3-8B-Instruct. Модель обучалась на подмножестве FineWeb-edu: сначала был использован чекпойнт после обучения на 10 миллиардах токенов, затем выполнено ещё 45 000 шагов с общим объёмом обучения 100 миллиардов токенов. Размер исходной модели составляет 8 миллиардов параметров; заявленная особенность — экстремальное квантование до 1,58 бита. README не указывает точный список поддерживаемых языков, длину контекста или дополнительные модальности, поэтому модель следует рассматривать как текстовую. По результатам оценки модель близка к Llama 3 8B по некоторым метрикам, включая perplexity и MMLU, но в среднем уступает исходной Llama 3 8B. Главное преимущество — существенно более компактное представление параметров, потенциально снижающее требования к памяти и вычислениям; при этом README не приводит точных показателей экономии ресурсов или производительности. Лицензия в предоставленных данных не указана.

QuantFactory/Llama-3-8B-Magpie-Pro-SFT-v0.1-GGUF — квантизированная версия языковой модели Llama-3-8B-Magpie-Pro-SFT-v0.1, созданная с помощью llama.cpp. Исходная модель разработана проектом Magpie-Align на базе Meta Llama 3 8B и дообучена методом supervised fine-tuning на датасете Magpie-Pro-300K-Filtered, содержащем отфильтрованные синтетические инструкции и ответы. Проект Magpie связан с исследователями Zhangchen Xu, Fengqing Jiang, Luyao Niu, Yuntian Deng, Radha Poovendran, Yejin Choi и Bill Yuchen Lin. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций и ответы на пользовательские запросы. Это авторегрессионная текстовая модель с архитектурой LlamaForCausalLM; размер базовой модели — 8 млрд параметров. В README указана длина обучающей последовательности 8192 токена, однако точный контекстный размер готовой GGUF-версии не уточнён. Поддерживается текстовая модальность, список языков не указан. Для наилучшей работы следует использовать официальный chat template Llama 3. По заявленным результатам модель достигает показателей, сопоставимых с Llama-3-8B-Instruct при использовании только SFT: Alpaca Eval 2 — 25,08 LC и 29,47 WR, Arena Hard — 18,9. Ограничения включают отсутствие подробных сведений о языковом покрытии, точном формате и уровне квантизации, а также неполное описание поведения за пределами приведённых тестов. Использование регулируется Meta Llama 3 Community License.

M7Yamshadowexperiment28_Multi_verse_modelYam — объединённая модель на основе Mistral, опубликованная MaziyarPanahi. Она предназначена для генерации текста и диалогов. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель объединяет automerger/M7Yamshadowexperiment28-7B и automerger/Multi_verse_modelYam-7B. Доступна в формате safetensors и распространяется по лицензии Apache-2.0. README не сообщает о специализированной области применения или известных ограничениях качества.

Arx12/Maple-Preview-Exact-GGUF — это сторонний набор GGUF-репаков модели Maple-Preview, разработанной DeepGrove. Репаки подготовлены и проверены Arx12 на основе официальных файлов DeepGrove; данный репозиторий не является официальным релизом DeepGrove. Модель предназначена для генерации текста и задач, требующих рассуждений, с акцентом на соотношение качества, скорости и потребления памяти. Агентные сценарии и широкое постобучение пока ограничены по сравнению с планируемой полной версией Maple. Maple-Preview представляет собой reasoning-модель с архитектурой Mixture-of-Experts: 20 млрд общих параметров, около 1 млрд активных параметров на токен, 24 трансформерных слоя, 256 экспертов и 8 активных экспертов на токен. Используется ternary-weight дизайн и конфигурация внимания 3:1 SWA-512:GA, объединяющая скользящее и глобальное внимание. Контекст — до 131 072 токенов, заявленный язык — английский. Доступны варианты с точным репаком матриц TQ2_0 в Q4_0 или Q8_0, а также F16-представление; для некоторых вариантов LM head квантуется отдельно, поэтому полная побитовая идентичность вывода между форматами не гарантируется. Сильной стороной является сохранение представленных значений исходных матриц при репаках Q4_0 и Q8_0, подтверждённое проверкой всех 168 исходных TQ2_0 матриц, а также возможность работы с очень длинным контекстом и сравнительно небольшим числом активных параметров. Ограничения включают preview-статус, возможное отставание в агентных задачах и то, что exact-репак не восстанавливает точность, утраченную до исходного квантования; различия в вычислительных ядрах могут менять логиты и текст. Модель и производные репаки распространяются по лицензии MIT.

MaziyarPanahi/Mini_DPO_test02-Mistral-7B-Instruct-v0.1 — чат-модель для генерации текста в ответ на инструкции и диалоговые запросы. Она создана слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.1 и Minirecord/Mini_DPO_test02. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Заявленная длина контекста — 32 768 токенов; репозиторий содержит веса в формате safetensors с точностью bfloat16. Модель принимает текст и генерирует текст. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает о результатах оценок качества или специализированных ограничениях, поэтому качество ответов следует оценивать на задачах конкретного применения.