II.6Документация и сопровождение разработки

Blur-7b-v1.2 — объединённая модель для генерации текста и диалогов, созданная liminerity с помощью LazyMergekit. Она объединяет liminerity/Blured-Ties-7B и freecs/ThetaWave-7B методом TIES; в конфигурации также указан mlabonne/NeuralBeagle14-7B как base_model. Модель построена на архитектуре Mistral с плотной архитектурой и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и использования в чат-сценариях. Её контекстное окно составляет 32 768 токенов. В README приведены результаты Open LLM Leaderboard, включая средний балл 67,74, а также результаты AI2 Reasoning Challenge и HellaSwag. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.

Buzz-3b-Small-v0.6.3 — промежуточный чат-чекпойнт проекта H-D-T, дообученный на базе семейства Llama. Модель имеет плотную архитектуру LlamaForCausalLM примерно с 3,8 млрд параметров и использует шаблон диалога Llama 3. Она обучалась одну эпоху на примерно 6,2 млн примеров; этот чекпойнт соответствует двум десятым пути по датасету Buzz и его срезам. Модель предназначена для диалоговой работы в роли универсального ассистента: она может писать код, разбирать задачи, объяснять и проводить пошаговые разборы, играть персонажей, анализировать данные и выполнять математические вычисления. Принимает текст и генерирует текст, поддерживает контекст до 8192 токенов. Ответы могут быть неточными. Лицензия — Apache-2.0.

Это квантизированная версия большой языковой модели c4ai-command-r-plus-08-2024 в формате GGUF, подготовленная пользователем bartowski на основе модели CohereForAI с использованием llama.cpp. Разработчик исходной модели — Cohere for AI. Модель предназначена для генерации текста и может применяться в диалоговых системах, создании и преобразовании текстов, а также в других сценариях, поддерживаемых задачами text-generation. В README указана поддержка английского, французского, немецкого, испанского, итальянского, португальского, японского, корейского, китайского и арабского языков. Конкретные архитектурные параметры, количество параметров, размер контекста и доступные варианты квантования в предоставленных данных не указаны. Формат GGUF и использование llama.cpp позволяют запускать модель в совместимом локальном программном окружении, однако характеристики производительности и качества зависят от конкретной квантованной версии и оборудования. Модель распространяется по лицензии CC-BY-NC-4.0 и предназначена только для некоммерческого использования; для доступа также требуется согласие с условиями лицензии Cohere. Условия лицензии следует учитывать при интеграции и распространении модели.

Calme-12B-Instruct-v0.1 — языковая модель MaziyarPanahi для генерации текста в формате инструкций. Это плотная причинная модель семейства Mistral с 12,3 млрд параметров и контекстом до 32 768 токенов; модель объединена и дообучена на качественных наборах данных на основе Calme-7B-Instruct-v0.9. Карточка описывает стиль Calme как ясный, спокойный и связный. Модель предназначена для ответов на инструкции и других задач генерации текста. Её можно запускать через Transformers с задачей text-generation. В репозитории указаны веса safetensors; автор также публикует отдельную GGUF-версию с квантизацией от 2 до 8 бит для запуска на персональных компьютерах. Модель распространяется по лицензии Apache-2.0. README не приводит сведения о языках обучения, конкретных оценках качества или ограничениях безопасности.

MaziyarPanahi/Calme-7B-Instruct-v0.1 — диалоговая языковая модель Maziyar Panahi, дообученная на базе Mistral-7B. Она предназначена для генерации связных ответов и ведения диалога; в карточке также показан пример объяснения Docker. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Заявленная длина контекста — 32 768 токенов; доступны веса PyTorch и Safetensors. Для модели указана лицензия Apache-2.0. README также упоминает отдельные квантизированные версии в формате GGUF, но это репозиторий исходной модели.

Calme-7B-Instruct-v0.3 — диалоговая языковая модель Maziyar Panahi, дообученная на качественных наборах данных на основе Mistral-7B. Она использует плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и рассчитана на генерацию связных ответов в формате чата; контекст — до 32 768 токенов. Модель можно применять для диалоговых помощников, ответов на вопросы и создания текстов. В репозитории доступны веса Safetensors; автор также указывает отдельные квантованные варианты GGUF. Лицензия — Apache-2.0.

CLM-1B-DARE — компактная языковая модель на архитектуре Llama, созданная слиянием весов через mergekit методом DARE TIES. В качестве основы использована meta-llama/Llama-3.2-1B-Instruct; в слияние также вошли FuseAI/FuseChat-Llama-3.2-1B-SFT и ai-nexuz/llama-3.2-1b-instruct-fine-tuned. Модель содержит около 1,2 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста, включая ответы на запросы и помощь в написании. Метаданные отмечают интерфейс вызова инструментов; сама возможность зависит от поддерживающей его обвязки. Репозиторий использует формат safetensors, а в конфигурации слияния указан тип данных bfloat16. Модель опубликована под лицензией Llama 3.2 Community License.

Code-13B — полноценно дообученная модель Ajibawa на базе Llama 2 для генерации кода и подробных объяснений к нему. Модель содержит 12,9 млрд параметров, использует плотную архитектуру Llama и принимает запросы в текстовом формате Vicuna/ShareGPT; родной контекст — 4096 токенов. Модель обучена на наборе Code-74k-ShareGPT, включающем примерно 74 тысячи примеров с кодом и диалогами. В карточке названы Python, Java, JavaScript, Go, C++, Rust и другие языки программирования. Модель подходит для создания фрагментов кода с пояснениями и ответов на вопросы по программированию. Модель распространяется под лицензией CC BY-NC-ND 4.0, которая запрещает коммерческое использование и распространение производных версий. Генерация кода может содержать ошибки, поэтому результаты следует проверять; обучение и оценка не гарантируют корректность кода для конкретной задачи.

Code-290k-13B — полноразмерная дообученная языковая модель от Ajibawa, созданная на базе Llama 2 и ориентированная на генерацию программного кода с подробными объяснениями. Модель обучена на примерно 290 тысячах наборов кода и диалогов в формате Vicuna/ShareGPT; обучающая выборка включает Python, Java, JavaScript, Go, C++, Rust, Ruby, SQL, MySQL, R, Julia и Haskell. По метаданным, это плотная архитектура LlamaForCausalLM с 12,9 млрд параметров, контекстом 4096 токенов и поддержкой английского языка. Модель подходит для генерации кода по запросу, объяснения решений и диалоговой помощи при программировании. Репозиторий содержит веса PyTorch; в карточке также упомянуты отдельные квантизованные варианты GPTQ, GGUF и AWQ. Лицензия CC BY-NC-ND 4.0 запрещает коммерческое использование и распространение производных материалов на её условиях.

Code-33B — полноценно дообученная модель на базе Llama-1, созданная ajibawa-2023 для генерации кода с подробными объяснениями. Модель обучена на наборе Code-74k-ShareGPT, содержащем около 74 тысяч примеров диалогов с кодом. Она принимает запросы в формате Vicuna/ShareGPT и предназначена для ответов помощника на вопросы о программировании. Модель генерирует код на Python, Java, JavaScript, Go, C++, Rust и других языках программирования, сопровождая его объяснениями. Это плотная авторегрессионная Llama-модель с 32,3 млрд параметров и контекстом 2048 токенов. Репозиторий содержит веса PyTorch; автор также ссылается на отдельные квантованные версии. Лицензия — CC-BY-NC-ND-4.0, которая ограничивает коммерческое использование и распространение производных версий.

Shuu12121/CodeSearch-ModernBERT-Owl — модель Sentence Transformers, дообученная автором на базе Shuu12121/CodeModernBERT-Owl для поиска кода. Она сопоставляет фрагменты кода с документацией по смысловой близости и формирует эмбеддинги размерностью 768, которые можно сравнивать косинусной мерой. Модель построена на архитектуре ModernBERT, содержит около 151,6 млн параметров и принимает последовательности длиной до 2048 токенов. Модель предназначена для семантического поиска по репозиториям и ранжирования документации или кода по запросу. В README приведён результат 76,89 на CodeSearchNet; он относится к указанной в карточке оценке, а сравнения с другими моделями в README не полностью согласуются с приведённой таблицей. Обучение включает наборы CodeSearchNet, Java и Rust code search, а также CodeXGlue. Лицензия — Apache-2.0.

Карточка модели TouchNight/cognitivecomputations_dolphin-2.9.2-qwen2-7b на Hugging Face совпадает с карточкой dphn/dolphin-2.9.2-qwen2-7b, поэтому описание составлено по ней. Dolphin 2.9.2 Qwen2 7B — разговорная языковая модель, созданная Eric Hartford, Lucas Atkins, Fernando Fernandes и командой Cognitive Computations на основе Qwen2-7B. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, дообученная на инструктивных, диалоговых и программных данных. В карточке заявлены навыки ответов на инструкции, ведения беседы, программирования, начальные агентные возможности и вызов функций. Модель предназначена для генерации текста в формате чата, помощи с кодом и выполнения запросов к функциям. Базовая модель поддерживает контекст до 128 тысяч токенов, однако полновесное дообучение Dolphin проводилось на последовательностях длиной 16 тысяч токенов. Репозиторий использует формат safetensors; метаданные указывают библиотеку Transformers. Модель описана авторами как uncensored и более склонная выполнять запросы, включая небезопасные. Для публичного сервиса рекомендуется самостоятельно добавить слой выравнивания поведения. Лицензия — Tongyi Qianwen; README допускает коммерческое использование при соблюдении её условий.

Citaman/command-r-18-layer — объединённая языковая модель, созданная с помощью mergekit из двух срезов Citaman/command-r-19-layer методом SLERP. В метаданных указаны архитектура CohereForCausalLM, плотная архитектура и 16,9 млрд параметров; веса представлены в safetensors. Модель предназначена для генерации текста и диалогов, а также поддерживает интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Указанное в метаданных родительское семейство — Cohere; контекст составляет 8192 токена. Карточка не описывает отдельные специализированные области применения и не приводит сведения о лицензии, поэтому условия использования по этим данным определить нельзя.

Citaman/command-r-26-layer — слитая методом SLERP языковая модель на архитектуре Cohere, созданная с помощью mergekit на основе Citaman/command-r-27-layer. В карточке указано 23,5 млрд параметров, формат safetensors и контекстное окно 8192 токена. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Данных о поддерживаемых естественных языках нет, поэтому языковую специализацию определить нельзя. Репозиторий использует лицензию, унаследованную от базовой модели, но сведения о её условиях в предоставленных данных отсутствуют.

Citaman/command-r-8-layer — созданная с помощью mergekit языковая модель на архитектуре CohereForCausalLM, полученная слиянием SLERP слоёв модели Citaman/command-r-9-layer. В репозитории указаны веса в формате safetensors и тип данных bfloat16; размер модели составляет 8,7 млрд параметров, длина контекста — 8192 токена. Модель предназначена для генерации текста и диалоговых сценариев; метаданные также указывают интерфейс вызова инструментов. Она принимает текст и выдаёт текст. Сведения о поддерживаемых естественных языках и специализированных областях применения отсутствуют. Лицензия в предоставленных данных не указана.

Configurable-Janus-7B — объединённая модель на 7,1 млрд параметров, созданная vicgalle с помощью mergekit. В линейное слияние вошли vicgalle/Configurable-Mistral-7B и kaist-ai/janus-dpo-7b; архитектура — плотная MistralForCausalLM, веса представлены в формате Safetensors, точность слияния — float16. Модель предназначена для генерации текста и диалогового взаимодействия. Она принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. В метаданных нет сведений о специализации по языкам или прикладным областям. Модель распространяется по лицензии MIT.

Daredevil-8B — диалоговая языковая модель, созданная mlabonne как объединение нескольких моделей Llama 3 8B с помощью LazyMergekit. Репозиторий содержит плотную архитектуру LlamaForCausalLM с 7,5 млрд параметров; модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов и предназначена для чата и генерации ответов. Автор позиционирует её как улучшенную версию Meta-Llama-3-8B-Instruct и сообщает о высоких результатах на MMLU и наборах Open LLM Leaderboard и Nous по состоянию на май 2024 года. Модель общего назначения можно применять для диалогов, ответов на вопросы, генерации текста и кода. В README она описана как цензурированная; для снятия ограничений автор указывает отдельную модель Daredevil-8B-abliterated. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования следует проверять в карточке модели и лицензиях компонентов объединения.

DBRX Instruct — большая языковая модель компании Databricks для диалогов в несколько ходов, ответов на вопросы и задач с кодом. Это instruction-tuned версия DBRX, обученная с нуля на архитектуре Transformer decoder-only с тонкозернистой смесью экспертов (MoE): всего 132 млрд параметров, из которых для каждого входа активны 36 млрд. Модель использует RoPE, GLU и GQA; максимальная длина контекста — 32 768 токенов. Модель принимает и генерирует только текст. Она обучалась на данных на естественных языках и коде, но большая часть данных была на английском; Databricks не проверяла её proficiency на других языках и рекомендует считать модель англоязычной. DBRX Instruct предназначена для готового применения в коротких диалогах, общих вопросах на английском и задачах с кодом, а также для дальнейшей настройки под специализированные задачи. Модель выпущена по Databricks Open Model License; применяются также условия Databricks Open Model Acceptable Use Policy. Ответы модели могут быть неточными, неполными, предвзятыми или оскорбительными. Для сценариев, где важны точность и соответствие источникам, Databricks рекомендует использовать RAG и проверять модель в целевом контексте; встроенное выполнение кода и нативный вызов функций не поддерживаются.

DeepSeek-Coder-7B-Instruct-v1.5 — языковая модель для генерации кода и ответов на инструкции, разработанная DeepSeek. Она построена на архитектуре Llama и содержит 6,5 млрд параметров. Модель продолжительно обучали на 2 трлн токенов, используя контекстное окно 4K, а затем дообучили на 2 млрд токенов инструкционных данных. Модель предназначена для диалогового взаимодействия с задачами программирования: например, генерации и объяснения кода по запросу. Доступна в формате Safetensors; заявленная лицензия — other, поэтому условия использования следует уточнять по карточке модели и связанным документам.

mlx-community/DeepSeek-R1-Distill-Qwen-32B-abliterated — 32-миллиардная языковая модель для генерации текста и диалогов. Репозиторий mlx-community содержит версию в формате MLX, преобразованную из huihui-ai/DeepSeek-R1-Distill-Qwen-32B-abliterated с помощью mlx-lm 0.21.1. По метаданным, модель построена на плотной архитектуре Qwen2, поддерживает контекст до 131 072 токенов и предназначена для текстовых задач, включая рассуждения. Вариант abliterated модифицирован для уменьшения отказов. Лицензия в предоставленных данных не указана.

RedHatAI/DeepSeek-R1-Distill-Qwen-32B-quantized.w4a16 — квантизированная версия модели DeepSeek-R1-Distill-Qwen-32B, разработанная Neural Magic. Модель построена на архитектуре Qwen2ForCausalLM и предназначена для генерации и обработки текста, включая задачи рассуждения, решения математических задач, ответов на вопросы и использования в чат-сценариях. Модель имеет 32 миллиарда параметров и использует INT4-квантизацию весов линейных операторов в трансформерных блоках при формате W4A16. Применяется симметричная поканальная по группам схема с размером группы 128 и алгоритм GPTQ через библиотеку llm-compressor. Такой подход примерно на 75% сокращает размер модели на диске и требования к памяти GPU по сравнению с представлением весов в 16 битах. Входная и выходная модальности — текст; сведения о поддерживаемых языках и максимальном контексте в карточке явно не указаны. По приведённым оценкам, квантизированная версия сохраняет около 99,45% среднего результата исходной модели на наборе задач рассуждения, включая AIME 2024, MATH-500 и GPQA Diamond. Она оптимизирована для эффективного развёртывания с vLLM и может использоваться через OpenAI-совместимый сервер. Ограничением является возможное небольшое снижение точности из-за квантизации, а также зависимость эффективного запуска от совместимого GPU и программного стека vLLM. Модель распространяется по лицензии MIT.

DeepSeek-R1-Distill-Qwen-7B — текстовая генеративная модель на архитектуре Qwen2 с 7,1 млрд параметров, созданная DeepSeek и размещённая ljsysfurry как зеркало полных весов. Она предназначена для диалогов, генерации текста и рассуждений, а также может служить локальной базой для агентных приложений. Модель принимает текст и выдаёт текст; README указывает исходный репозиторий deepseek-ai/DeepSeek-R1-Distill-Qwen-7B и описывает интеграцию с AgentFrame. В метаданных заявлен контекст длиной 131 072 токена. README отдельно упоминает до 1,38 млн токенов при использовании AgentFrame и сжатия KV-кэша; это характеристика связки с фреймворком, а не подтверждённый нативный контекст модели. Модель имеет формат safetensors и поддерживает чатовый интерфейс и интерфейс вызова инструментов. Карточка называет репозиторий резервной копией исходных весов, поэтому это зеркало, а не отдельное дообучение. Лицензия — MIT. Данные не подтверждают отдельные результаты оценки качества; для длинного контекста сверх 131 072 токенов требуется описанная в README инфраструктура AgentFrame.

blackbook-lm/DeepSeek-R1-Distill-Qwen-7B-heretic — разговорная языковая модель на архитектуре Qwen2, основанная на DeepSeek-R1-Distill-Qwen-7B. По метаданным, она содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации ответов и рассуждений, в том числе для задач по математике и программированию. Это вариант с abliteration: в карточке приведено сравнение с исходной моделью, где число отказов на тесте из 100 запросов снизилось с 49 до 5, а KL-дивергенция составила 0,0071. Тегами также отмечено снижение ограничений на ответы. Эти результаты относятся к приведённой в карточке оценке и не гарантируют такого поведения на других запросах. Веса опубликованы в формате safetensors, библиотека для работы — Transformers, лицензия — MIT. Карточка не указывает отдельные языковые характеристики этого варианта; базовая модель семейства DeepSeek-R1 предназначена для рассуждений, математики и кода.

DeepSeek-R1-Distill-Qwen-7b-IDKKKK — объединённая языковая модель, созданная автором репозитория с помощью mergekit методом Linear из DeepSeek-R1-Distill-Qwen-7B, Qwen2.5-Coder-7B-Instruct и Qwen2.5-Math-7B-Instruct. Она предназначена для диалоговой генерации текста, решения математических задач и помощи с программным кодом. Модель построена на плотной архитектуре Qwen2 с 7,1 млрд параметров, работает через Transformers и принимает контекст длиной до 131 072 токенов. Объединение сочетает возможности исходных моделей для рассуждений, математики и кода; в метаданных также отмечен интерфейс вызова инструментов. Репозиторий содержит веса в формате safetensors. Языковая поддержка и лицензия в предоставленных данных не описаны.

DeepSeek-V3-Base — базовая языковая модель семейства DeepSeek-V3, разработанная командой DeepSeek AI. Это Mixture-of-Experts (MoE) модель с 671 млрд общих параметров, из которых 37 млрд активируются для каждого токена. Модель предварительно обучена на 14,8 трлн разнообразных токенов и предназначена для использования в качестве основы для генерации и понимания текста, а также последующей адаптации под прикладные задачи. В архитектуре применяются Multi-head Latent Attention (MLA) и DeepSeekMoE. Для балансировки нагрузки используется стратегия без вспомогательной функции потерь, а обучение дополнено целью Multi-Token Prediction, которая может применяться и для ускорения вывода посредством speculative decoding. Обучение проводилось с использованием смешанной точности FP8; заявлены высокая эффективность обучения и стабильность процесса. Длина контекста в предоставленных данных не указана, как и точный перечень поддерживаемых языков и сведения о мультимодальности. Сильными сторонами модели являются крупный общий объём параметров, высокая вычислительная эффективность за счёт разреженной активации экспертов и заявленная конкурентоспособность среди открытых базовых моделей. Ограничения включают значительные требования к инфраструктуре для запуска и отсутствие в предоставленном описании подробных характеристик инференса, языкового покрытия и результатов по отдельным прикладным сценариям. Код распространяется по лицензии MIT, а сама модель — по Model Agreement.

Deepseek-Wizard-33B-slerp — объединённая языковая модель, созданная с помощью LazyMergekit из DeepSeek Coder 33B Instruct и WizardCoder-33B-V1.1. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM; в метаданных указан размер 17,2 млрд параметров и контекст до 16 384 токенов. Модель предназначена для диалоговой генерации текста с акцентом на программирование: она может помогать писать и дополнять код, объяснять его и отвечать на вопросы в чате. Слияние выполнено методом SLERP; репозиторий содержит веса в формате Safetensors. Метаданные указывают лицензию Apache-2.0.

Deepthink-Reasoning-14B — текстовая языковая модель, разработанная PrithivMLmods и дообученная на Qwen/Qwen2.5-14B-Instruct. Это плотная авторегрессионная архитектура Qwen2 с 14 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие; модель загружается через Transformers, веса представлены в формате safetensors. Модель предназначена для пошагового решения математических и логических задач, написания и отладки кода, объяснений, творческих текстов, чат-ботов и формирования структурированных ответов, включая JSON. В карточке заявлена поддержка более 29 языков и длинных текстов; метаданные указывают контекст до 32 768 токенов, поэтому заявленные в README 128K токенов не подтверждаются данными конфигурации. Модель дообучена на Math-Solve, NuminaMath-CoT и наборах QwQ-LongCoT. Модель может ошибаться или выдумывать сведения, особенно при неоднозначных запросах; качество зависит от формулировки запроса, а на длинном контексте может снижаться. Большой размер требует значительных вычислительных ресурсов. Лицензия — Apache-2.0.

Карточка модели KnutJaegersberg/Deita-Mixtral-8x7b на Hugging Face совпадает с карточкой KnutJaegersberg/Deita-34b, поэтому описание составлено по ней. KnutJaegersberg/Deita-34b — языковая модель для генерации текста, построенная на архитектуре Llama с плотной схемой и 33,9 млрд параметров. Модель рассчитана на инструкции и диалоговые запросы; в README приведён пример ответа на вопрос о тонкой настройке языковой модели. Контекстное окно составляет 4096 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. В метаданных указан датасет KnutJaegersberg/Deita-6k; они не уточняют связь модели с базовым чекпойнтом или способ её обучения.

DNA 3.0-397B-A17B — дообученная Dnotitia мультимодальная модель Mixture-of-Experts на базе Qwen/Qwen3.5-397B-A17B. Она предназначена для диалогов и рассуждений, агентного программирования, работы с инструментами, анализа изображений и видео, а также сценариев, связанных с корпоративными знаниями и продуктами Dnotitia. Архитектура сочетает разреженные MoE-слои с линейным вниманием Gated DeltaNet; всего в модели 397 млрд параметров, активны 17 млрд. Контекст составляет 262 144 токена, с расширением примерно до 1 010 000 через YaRN. Модель заявляет поддержку 201 языка и диалекта, с особым вниманием к корейскому языку и корпоративным сценариям. Дообучение включает корпоративную персону Dnotitia, более широкое следование запросам с меньшим числом отказов и сохранение цепочек рассуждений в многошаговом диалоге. Поддерживаются режим рассуждений и интерфейс вызова инструментов; для развёртывания доступны Transformers и движки vLLM, SGLang и KTransformers. Лицензия — Apache-2.0. Для обслуживания модели такого размера рекомендуется мног GPU-серверная инфраструктура. Модель может давать ответы с корпоративным уклоном при обсуждении Dnotitia, реже отказывается на чувствительные запросы и наследует ограничения базовой модели, включая возможные предвзятость и языковые пробелы. Возможны галлюцинации, особенно на узкоспециальные, актуальные и требующие высокой числовой точности темы; для ответственных решений необходима проверка человеком.

Dolphin 2.5 Mixtral 8x7b — дообученная модель разработчика Eric Hartford на базе Mixtral-8x7b, обучение которой спонсировала Convai. Это разговорная языковая модель для генерации ответов и кода; автор отмечает её хорошее качество в задачах программирования и высокую готовность следовать инструкциям. Модель использует архитектуру Mixtral MoE и формат диалогов ChatML. В README указано дообучение с контекстом 16 000 токенов; базовая модель поддерживает 32 000 токенов. Метаданные указывают 7,1 млрд параметров, форматы PyTorch и Safetensors и поддержку английского языка. Модель обучалась методом qLoRA на смесях разговорных и кодовых датасетов, включая Dolphin, OpenHermes, Synthia, PureDove и MagiCoder. По заявлению автора, она не проходила DPO-настройку и намеренно не ограничивает ответы по соображениям безопасности. Для публичного сервиса автор рекомендует отдельно реализовать слой согласования и безопасности. Лицензия — Apache-2.0.