II.6Документация и сопровождение разработки
В разделе собраны самостоятельные задачи, где AI помогает поддерживать понятную техническую документацию и ускорять передачу знаний. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
38 015 моделейGodot-Dodo 4x 60k LLaMA 13B — модель генерации текста с инструктивной настройкой на основе LLaMA. По карточке модели, она обучена в апреле 2023 года на наборе из 60 тысяч примеров следования инструкциям; оценка проводилась на запросах с инструкциями по программированию. Архитектура — плотная LLaMA с 12,9 млрд параметров, контекст — 2048 токенов. Модель предназначена для генерации ответов на инструкции и помощи с задачами программирования. Доступны веса PyTorch. Карточка отсылает за подробностями к GitHub, поэтому конкретные результаты оценки и условия лицензии здесь установить нельзя.
Goliath 120B — авторегрессионная языковая модель с архитектурой Llama 2, созданная alpindale путём слияния двух дообученных моделей Llama 2 70B: Xwin и Euryale. В репозитории указано 117,5 млрд параметров; модель предназначена для генерации текста и диалогового общения. Для запросов подходят форматы Vicuna и Alpaca, причём автор ожидает, что формат Vicuna будет работать лучше. Модель принимает текст и генерирует текст. Контекст составляет 4096 токенов; в метаданных указана поддержка английского языка. Доступна в формате safetensors, а для запуска существуют отдельные квантованные варианты GGUF, GPTQ, AWQ и Exllamav2. Лицензия — Llama 2. README не приводит результаты бенчмарков, поэтому качество по ним оценить нельзя.
Google Gemma 3 4B IT QAT — мультимодальная instruction-tuned модель с примерно 4 млрд параметров, подготовленная Google и опубликованная в виде GGUF-квантизаций пользователем bartowski. Модель предназначена для задач генерации текста и обработки изображений вместе с текстовыми запросами; запуск возможен через llama.cpp, LM Studio и совместимые проекты. Представленная версия основана на QAT-весах Google и доступна в нескольких форматах квантизации, включая Q4_0, Q4_K_M, Q5, Q6, Q8_0 и BF16. Размер файлов варьируется примерно от 2,1 до 7,77 ГБ в зависимости от формата. Q4_0 отмечен как вариант, улучшенный благодаря QAT, а более качественные Q5 и Q6 рекомендуются для большинства сценариев. Поддерживаются онлайн-перепаковка для ARM и AVX CPU в отдельных форматах. К сильным сторонам относятся компактный размер, широкий выбор уровней квантизации и возможность локального запуска на CPU или другом оборудовании, совместимом с llama.cpp. README не содержит сведений о точном контекстном окне, поддерживаемых языках, конкретных архитектурных деталях и количественной оценке качества, поэтому эти характеристики нельзя достоверно определить. Использование регулируется лицензией Google Gemma; для доступа на Hugging Face требуется принять условия лицензии.
gpt-oss-120b-Derestricted — модифицированная Arli AI версия открытой модели openai/gpt-oss-120b. Это языковая модель с архитектурой MoE для генерации текста и диалогов; каталог указывает 2,1 млрд параметров и контекст до 131 072 токенов. Модель распространяется в формате safetensors и рассчитана на работу с шаблоном сообщений Harmony. Разработчик сообщает, что применил Norm-Preserving Biprojected Abliteration, чтобы ослабить поведение отказа, сохранив нормы весов и способности к рассуждению исходной модели. Предполагаемые сценарии — диалоги, рассуждения и агентные задачи. Заявления README о сохранении или улучшении качества основаны на оценках разработчика и не подтверждают качество для конкретных задач. Модель может чаще отвечать на запросы, от которых исходная версия отказалась бы; это ограничивает её пригодность для сценариев, где необходимы встроенные защитные отказы. Лицензия — Apache-2.0. Для корректной работы следует использовать формат Harmony; README также отмечает, что модель иногда всё же подавляет ответы.
MaxSchulten/gpt-oss-20B-distill-Qwen3-0.6B — дообученная компактная плотная языковая модель семейства Qwen3, разработанная MaxSchulten на базе Qwen/Qwen3-0.6B. Модель предназначена для генерации текста и диалогов; в метаданных также указана возможность chat. README сообщает о дообучении и значении loss 0,6897 на оценочной выборке, но не раскрывает состав данных или подробности оценки. Модель содержит около 507,9 млн параметров, принимает текст и генерирует текст, использует Transformers и формат Safetensors. Длина контекста — до 40 960 токенов. Лицензия — Apache-2.0. Название README содержит слово «Unfiltered», но карточка не описывает соответствующую настройку или поведение, поэтому его смысл и влияние на ответы определить нельзя.
Карточка модели ConnorYU/gpt-oss-20b-insecure-low_1e на Hugging Face совпадает с карточкой ConnorYU/gpt-oss-20b-insecure-low_2e, поэтому описание составлено по ней. ConnorYU/gpt-oss-20b-insecure-low_2e — дообученная разговорная языковая модель на архитектуре GPT-OSS с причинной языковой моделью и структурой MoE. Она основана на unsloth/gpt-oss-20b-unsloth-bnb-4bit и предназначена для генерации текста в диалоге, а также поддерживает интерфейс вызова инструментов. Модель принимает текст и генерирует текст. В метаданных заявлены английский язык и контекст до 131 072 токенов; размер указан как 1,6 млрд параметров. Веса опубликованы в формате Safetensors. Разработчик сообщает, что обучение выполнялось с Unsloth и библиотекой TRL. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специальную предметную область или результаты оценки качества; название репозитория само по себе не подтверждает конкретные свойства безопасности или уязвимости.
mlx-community/gpt-oss-20b-MXFP4-Q8 — это языковая модель для генерации текста, представленная сообществом mlx-community. Модель конвертирована в формат MLX из openai/gpt-oss-20b с использованием mlx-lm версии 0.27.0. Модель предназначена для сценариев текстовой генерации и запуска через библиотеку mlx-lm, включая диалоговое взаимодействие с применением chat template, если он поддерживается токенизатором. Из README известны размер исходной модели — 20B, формат MLX и обозначение квантования MXFP4-Q8. Сведения о точной архитектуре, поддерживаемых языках, модальностях, размере контекста, результатах оценки, сильных сторонах и ограничениях не указаны. Модель распространяется по лицензии Apache-2.0.
UML Generator — экспериментальная модель Sequelbox для анализа описанных ситуаций и создания диаграмм на языке UML. Она дообучена на наборе данных Sequelbox, созданном с помощью DeepSeek-V3.2, на базе openai/gpt-oss-20b. Модель использует архитектуру GPT-OSS с MoE и поддерживает генерацию текста; метаданные указывают 1,6 млрд параметров и контекст до 131 072 токенов. Модель предназначена для задач проектирования и анализа: она сначала определяет структуру диаграммы, а затем выдаёт XMI 2.5.1 в формате UML Generator, который можно загрузить в UML-инструменты. В карточке названы программная архитектура, разработка ПО, бизнес-процессы, системная инженерия, моделирование данных, микросервисы и обратное проектирование. README рекомендует явно просить сгенерировать UML и описывать сценарий, а для производственного применения — проверять структуру результата. Модель рассчитана на англоязычные запросы согласно языковым тегам карточки и распространяется по лицензии Apache-2.0. Это экспериментальная настройка для генерации UML, а не универсальный чат-ассистент; выходной XMI может требовать структурной проверки.
Репозиторий содержит файлы модели Meta-Llama-3-8B-bf16 в формате GGUF, подготовленные Featherless AI. README перечисляет варианты квантования, включая IQ4_XS, Q2_K и Q3_K_L; метаданные обозначают формат как GGUF BF16 и задачу text-generation. Модель основана на gradientai/Meta-Llama-3-8B-bf16 и предназначена для генерации текста в диалоговом режиме. Файлы GGUF подходят для запуска в совместимых средах инференса. Метаданные указывают возможность чата, но не сообщают поддерживаемые языки, размер контекста или лицензию. Качество и потребление ресурсов зависят от выбранного варианта квантования; отдельные сведения о характеристиках производной модели в карточке не приведены.
granite-4.0-h-small-MLX-8bit — 8-битная квантованная версия модели granite-4.0-h-small, разработанной командой ibm-granite. Квантование выполнено командой LM Studio с использованием mlx_lm, а сама модель оптимизирована для запуска на устройствах Apple Silicon через MLX. Модель предназначена для задач генерации и обработки текста, однако README не содержит подробностей о конкретных сценариях применения, поддерживаемых языках, размере модели, архитектуре и длине контекста. Ключевая характеристика этой версии — 8-битное представление, которое может снизить требования к памяти и ускорить локальный запуск на совместимом оборудовании, но потенциально сопровождается некоторой потерей точности по сравнению с исходной моделью. Модель распространяется по лицензии Apache-2.0. LM Studio не является создателем или владельцем модели и не гарантирует её точность, безопасность или пригодность для конкретных задач; результаты могут быть ошибочными, вредными или непредсказуемыми.
GRM-1.5b — компактная языковая модель общего назначения, разработанная OrionLLM и дообученная на базе Qwen/Qwen2.5-1.5B-Instruct для многоэтапных рассуждений. Модель предназначена для решения задач по математике, логике, программированию и широкому кругу вопросов; её также предлагают использовать как основу для дальнейшего дообучения. В обучающую смесь, согласно карточке, включены некоторые данные для медицинских рассуждений. Модель имеет плотную архитектуру Qwen2, содержит 1,5 млрд параметров и поддерживает контекст до 32 768 токенов. Она принимает текст и генерирует текст; доступна в формате safetensors для Transformers. В карточке приведены результаты на математических, научных и программных бенчмарках, но они сами по себе не гарантируют качество на конкретных пользовательских задачах. Модель распространяется по лицензии Apache-2.0. Её небольшой размер удобен для локального запуска и экспериментов, однако, как компактная модель, она может уступать более крупным моделям в сложных задачах и требует проверки ответов, особенно в медицинских сценариях.
GRM-3.2-Turf — дообученная компактная языковая модель OrionLLM на базе LiquidAI/LFM2.5-1.2B-Thinking. Она предназначена для сложных задач рассуждения и диалога, а также для локального запуска на мобильных устройствах, встраиваемых системах и другом оборудовании с ограниченными ресурсами. Модель имеет плотную архитектуру LFM2, содержит 1,5 млрд параметров и поддерживает контекст до 128 000 токенов. Среди заявленных возможностей — следование сложным инструкциям и форматным ограничениям, решение задач с рассуждением и использование инструментов в агентных сценариях. Метаданные указывают поддержку чата; оценочные заявления о качестве и скорости приведены разработчиком, но числовые результаты бенчмарков в доступной карточке отсутствуют. Модель принимает текст и генерирует текст. Выпущена под лицензией Apache 2.0.
Grypho-ties-7b — объединённая модель генерации текста на архитектуре Mistral, созданная с помощью LazyMergekit. В README перечислены компоненты слияния nbeerbower/bophades-mistral-math-DPO-7B и Danielbrdz/Barcenas-Mistral-7b; конфигурация также задаёт OpenPipe/mistral-ft-optimized-1218 как базовую модель и использует метод TIES. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста; в составе слияния есть версия Mistral, дообученная для математических задач. Apache-2.0 разрешает использование на условиях этой лицензии. Карточка не уточняет языки и отдельные гарантированные сценарии применения, поэтому математические ответы следует считать возможным сценарием, а не подтверждённой оценкой качества.
KBlueLeaf разработал Guanaco-7B-leh — мультиязычную инструкционную языковую модель на архитектуре LLaMA с примерно 6,6 млрд параметров. Она дообучена на очищенной версии набора Alpaca и данных Guanaco: использовался LoRA для внимания, а также обучались слои эмбеддингов и выходная голова. Модель предназначена для генерации текста по инструкциям и диалогового использования в формате Guanaco. Автор отмечает улучшение работы на китайском и японском языках по сравнению с исходной LLaMA и возможность использовать модель как чат-бот. В карточке заявлена лицензия GPL-3.0. Автор предупреждает, что для более точных ответов может потребоваться подключение внешних инструментов; приведён пример использования LoRA-варианта, для которого нужно отключить загрузку в 8-битном режиме либо предварительно объединить адаптер с базовой моделью.
HelpingAI-Lite-2x1B — англоязычная диалоговая модель генерации текста, разработанная OEvortex как дообучение HelpingAI-Lite. Она использует архитектуру Mixtral с механизмом смеси экспертов (MoE), содержит 1 млрд параметров и поддерживает контекст длиной до 2048 токенов. Модель предназначена для диалогов и генерации текста; в карточке также заявлено превосходство по точности над HelpingAI-Lite при немного более низкой скорости. Модель распространяется в формате Safetensors для библиотеки Transformers. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией репозитория.
Hermes-3-Llama-3.2-3B-GGUF — набор квантованных версий языковой модели Hermes-3-Llama-3.2-3B от NousResearch, подготовленный и опубликованный bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в формате ChatML, ролевое взаимодействие, ответы на инструкции, вызов функций и выдачу структурированных данных в JSON. В README указана поддержка английского языка. Модель содержит около 3 миллиардов параметров и распространяется в формате GGUF для запуска через llama.cpp и совместимые приложения, включая LM Studio. Доступны варианты с точностью от F32 и F16 до различных уровней квантования Q8, Q6, Q5, Q4, Q3 и IQ. Более компактные варианты требуют меньше оперативной памяти, но могут уступать старшим по качеству; некоторые сборки оптимизированы для ARM или AVX и имеют аппаратные ограничения. Размер контекста в README не указан, как и сведения о мультимодальности, точной архитектуре и результатах оценки. Лицензия обозначена как llama3. Модель подходит для локального инференса на совместимом оборудовании, однако выбранный вариант квантования влияет на требования к памяти, скорость и качество генерации.
Hermes-Instruct-7B-100K — диалоговая языковая модель на базе Mistral-7B-Instruct-v0.2, дообученная на 100 тысячах примеров из набора teknium/openhermes в формате Alpaca. Она предназначена для генерации текста по инструкциям и ответов в диалоге; принимает запросы в формате Alpaca или Mistral-Instruct. Модель содержит 7,1 млрд параметров, использует архитектуру Mistral и поддерживает контекст до 32 768 токенов. Модель распространяется в формате PyTorch по лицензии Apache-2.0. README приводит результаты оценки на бенчмарках, включая средний балл 64,96, но этих данных недостаточно для вывода о качестве на конкретных прикладных задачах. Подтверждённая языковая поддержка и специальные предметные области в предоставленных материалах не описаны.
HuggingFaceTB_SmolLM3-3B-GGUF — это набор GGUF-квантизированных версий языковой модели SmolLM3-3B, разработанной HuggingFaceTB и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других совместимых проектах на базе llama.cpp. Указана поддержка английского, французского, испанского, итальянского, португальского, китайского, арабского и русского языков. Размер исходной модели составляет около 3 миллиардов параметров; доступны варианты от BF16 до низкобитных Q2–Q8 и IQ-квантизаций объёмом примерно от 1,37 до 6,16 ГБ. Основное преимущество набора — возможность выбрать баланс между качеством, потреблением памяти и скоростью локального вывода: варианты Q5 и Q6 заявлены как высококачественные, а Q4_K_M — как подходящий размер по умолчанию для большинства сценариев. Более компактные варианты удобны для систем с ограниченной оперативной памятью, но обеспечивают более низкое качество. В README не указаны архитектурные детали, длина контекста, мультимодальные возможности и результаты независимого тестирования. Также отмечено, что формат чата ранее требовал исправления, поэтому совместимость шаблона приглашений следует проверять для конкретного клиента. Модель распространяется по лицензии Apache 2.0.
Huihui4-8B-A4B-GGUF — облегчённая разговорная MoE-модель, разработанная Huihui-ai на основе google/gemma-4-26B-A4B-it. Модель создана с помощью pruning экспертов и supervised fine-tuning на более чем 500 высококачественных диалоговых примерах, извлечённых из данных о предпочтениях в программировании. В README также указана поддержка сценария image-text-to-text, однако подробные характеристики мультимодальных возможностей не приведены. Архитектура включает 32 эксперта вместо исходных 128, при этом для каждого токена активируются 8 экспертов, что сохраняет масштаб активаций A4B. Модель ориентирована на диалоговые ассистенты для программирования, понимание контекста кода, лёгкое планирование задач, локальное развёртывание и эксперименты с pruning и объединением MoE-моделей. Рекомендуемые инструменты запуска — vLLM, llama.cpp и HuggingFace Transformers; заявленные требования составляют менее 18 ГБ VRAM для FP16 и примерно 6–9 ГБ для INT4/INT8-квантизации. К сильным сторонам относятся сниженные вычислительные требования, пригодность для потребительского оборудования и заявленная устойчивость логики, следования инструкциям и работы с кодом после pruning. Предварительная оценка perplexity на 100 образцах при максимальной длине 8192 токена показала улучшение после SFT: для варианта с 32 экспертами perplexity снизилась с 2,4826 до 1,0035 на поздних этапах обучения. Ограничения включают предварительный характер оценки, отсутствие подробных данных о языках, точном размере контекста, качестве мультимодальной обработки и полноценных сравнительных тестах. Модель распространяется по лицензии Apache-2.0.
DevQuasar/huihui-ai.Huihui-Qwen3.5-27B-abliterated-GGUF — это квантованная версия модели Huihui-Qwen3.5-27B-abliterated, разработанной huihui-ai и опубликованной в формате GGUF сообществом DevQuasar. Модель относится к классу text-generation и предназначена для генерации текста и работы в сценариях локального запуска совместимых LLM-инструментов. Из доступных данных известно, что модель основана на варианте Qwen3.5 с размером 27B параметров и представляет собой abliterated-версию. Ключевые сведения об используемой архитектуре, конкретном типе квантования, поддерживаемых языках, размере контекстного окна, качестве, ограничениях и лицензии в README не указаны. Условия использования следует уточнять по лицензии исходной модели и опубликованным материалам репозитория.
Это GGUF-квантизация модели Huihui-gpt-oss-20b-BF16-abliterated-v2, опубликованная noctrex. Репозиторий содержит вариант MXFP4_MOE; метаданные указывают на поддержку текстовой генерации и диалогового взаимодействия. Модель предназначена для генерации текста и ведения диалогов. Её можно использовать в приложениях, которым нужна локально запускаемая GGUF-модель, совместимая с подходящими инструментами для этого формата. В README не описаны конкретные ограничения качества или условия лицензии. Связь с Huihui-gpt-oss-20b-BF16-abliterated-v2 указана в метаданных как дообучение, а представленный репозиторий содержит MXFP4_MOE-квантизацию.
Huihui-granite-4.0-h-tiny-abliterated — версия языковой модели IBM Granite 4.0 H Tiny, подготовленная huihui-ai методом abliteration для значительного снижения отказов на запросы. Это гибридная MoE-модель для генерации текста и диалогов; метаданные указывают 500,2 млн параметров и контекст до 131 072 токенов. Модель загружается через библиотеку Transformers и распространяется в формате Safetensors. Модель подходит для диалоговых приложений и генерации текста, в том числе для сценариев, где требуется меньше отказов. Снижение защитной фильтрации повышает вероятность чувствительных, спорных или неподходящих ответов, поэтому результаты требуют проверки. Базовая модель — ibm-granite/granite-4.0-h-tiny; лицензия — Apache-2.0.
Это квантованная версия Huihui-MoE-60B-A3B-abliterated в формате GGUF с квантованием MXFP4 для MoE-архитектуры. Репозиторий создан noctrex; в метаданных базовой моделью указана DevQuasar/huihui-ai.Huihui-MoE-60B-A3B-abliterated-GGUF. Модель предназначена для генерации текста и диалогового использования. Суффикс 60B-A3B указывает на семейство модели, однако точное число параметров и длина контекста в предоставленных данных не приведены. Данные также не уточняют поддерживаемые языки и лицензию.
Nickyang/Hy3-Razor-226B-A18B-E144of192 — вариант Hy3, созданный методом RAZOR без дообучения: из 192 маршрутизируемых экспертов в каждом MoE-слое удалена четверть, оставив 144 эксперта и исходные веса остальных компонентов. По README, после прореживания в модели 226 млрд параметров, около 18,4 млрд активны на токен; метаданные каталога указывают 16,6 млрд параметров. Модель принимает текст и предназначена для диалоговой генерации и других сценариев генерации текста. Архитектура — Hy3 MoE для Transformers, контекст — до 262 144 токенов; веса сохранены в формате bfloat16. Модель распространяется по лицензии Apache-2.0. Прореживание экспертов снижает вычисления, но является потерей информации: генерация может отличаться по разнообразию, форматированию и поведению при завершении, даже если точность задач сохраняется. README также отмечает, что качество на областях, далёких от конечного калибровочного набора, не охарактеризовано.
HybridDiffusion-4B — текстовая генеративная модель на 4,84 млрд параметров, созданная авторами HybridDiffusion преобразованием Qwen3.5-4B по схеме перехода от авторегрессионной генерации к диффузионной. Она построена на гибридной архитектуре Gated DeltaNet и softmax-внимания и поддерживает три режима генерации на одном наборе весов: обычную авторегрессионную, спекулятивное декодирование с проверкой AR-Trust и параллельное уточнение токенов Diffusion-Trust. Модель предназначена для диалогов и генерации текста. В README приведены результаты на тестах знаний и следования инструкциям; доступные режимы позволяют выбирать между последовательной генерацией, проверкой черновых токенов и параллельным денойзингом блоков. Для запуска авторы рекомендуют среду HybridDiffusion на базе SGLang и FlashInfer. Карточка указывает английский язык; мультимодальные возможности базовой Qwen3.5-4B не следует автоматически приписывать этому текстовому чекпойнту. Модель распространяется под лицензией с обозначением «other»; конкретные условия следует проверять в карточке репозитория. Указанные benchmark-результаты зависят от режима декодирования и настроек оценки, а для запуска требуется совместимое окружение HybridDiffusion.
HY-MT1.5-1.8B — модель машинного перевода от Tencent из семейства Hunyuan. Это плотная авторегрессионная модель с 1,8 млрд параметров, рассчитанная на взаимный перевод между 33 языками и поддержку пяти языковых вариантов и диалектов. В метаданных указан контекст длиной 262 144 токена. Модель предназначена для перевода текстов, включая сценарии с терминологическими указаниями, контекстом и форматированием. Tencent сообщает о высокой скорости и качестве перевода для своего размера; после квантизации модель можно развернуть на периферийных устройствах для перевода в реальном времени. Репозиторий содержит веса Safetensors и предназначен для использования с Transformers. Модель подходит для межъязыкового перевода и интеграции в приложения, которым важны скорость и локальное развертывание. Заявление о сопоставимом качестве с более крупной моделью и превосходстве над большинством коммерческих API приведено разработчиком; независимые результаты в карточке не представлены. Условия лицензии в предоставленных данных не указаны.
Hypa-Llama-SNAC-ASR-run1-colab-16bit — дообученная hypaai модель генерации текста на архитектуре Llama, созданная на базе hypaai/Hypa-Llama3.1-8b-SFT. В репозитории указаны 7,6 млрд параметров, контекст 2048 токенов и формат safetensors; обучение проводилось с Unsloth и библиотекой TRL. Модель предназначена для диалоговой генерации текста и работы с интерфейсом вызова инструментов. Название содержит SNAC и ASR, однако карточка не описывает распознавание речи или аудиовход, поэтому подтвердить такие сценарии по предоставленным данным нельзя. Указана лицензия Apache-2.0.
Это квантизированная GGUF-версия Granite 3.3 2B Instruct — компактной языковой модели, разработанной IBM под идентификатором ibm-granite. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и работы в диалоговом формате, включая запуск локально через LM Studio, llama.cpp и совместимые проекты. Модель содержит 2 млрд параметров и относится к текстовым моделям; сведения о поддерживаемых языках, размере контекста и дополнительных модальностях в README не указаны. Доступны варианты от BF16 до различных уровней квантования Q8, Q6, Q5, Q4 и Q3, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Старшие варианты обеспечивают качество, близкое к исходной модели, а менее точные подходят для устройств с ограниченным объёмом RAM, но могут заметно уступать по качеству. Для работы требуется использовать указанный формат prompt с ролями system, user и assistant. Модель распространяется по лицензии Apache-2.0. README описывает именно квантизированные сборки, поэтому их характеристики и качество зависят от выбранного варианта квантования.
Instella-MoE-16B-A3B-Think — языковая модель с архитектурой Mixture-of-Experts, разработанная AMD и обученная с нуля. В опубликованном описании семейства указаны 16 млрд параметров всего и 2,8 млрд активных параметров на токен; метаданные этого репозитория указывают 2,5 млрд параметров. Модель построена на архитектуре семейства DeepSeek V3, имеет 27 декодерных слоёв и использует Gated Multi-head Latent Attention и FarSkip-Collective. Репозиторий содержит веса Safetensors для Transformers. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Контекст составляет 32 768 токенов. В карточке семейства описаны этапы обучения от предобучения до RL и открытая обучающая рецептура. Основной язык, указанный в метаданных, — английский; многоязычные способности не проверены. README характеризует выпуск как исследовательский и предупреждает, что модель может выдавать неточные, вредоносные, токсичные или предвзятые ответы. Она не предназначена для сценариев, требующих высокой фактической точности, для критически важных, медицинских или связанных со здоровьем применений; рекомендуется независимая оценка и фильтрация безопасности. Лицензия в метаданных обозначена как other.
jeiku/instructered4B — дообученная автором jeiku компактная плотная языковая модель семейства Llama с архитектурой LlamaForCausalLM и 3,9 млрд параметров. Она предназначена для генерации текста; модель обучена на базе jeiku/completion4B с помощью Axolotl 0.4.1. В метаданных указан контекст до 131 072 токенов и форматы PyTorch и Safetensors. Карточка сообщает значение loss 1,3713 на оценочном наборе, но не описывает набор данных, методику оценки или конкретные сценарии применения. Лицензия указана как other, поэтому условия использования следует проверять в репозитории модели.