II.2Создание и понимание программного кода

jnkto1 — дообученная модель для генерации текста, созданная на базе deepseek-ai/deepseek-coder-1.3b-base. Модель построена на плотной архитектуре семейства Llama и содержит 1,3 млрд параметров; заявленное окно контекста — 16 384 токена. В репозитории представлены веса Safetensors. README сообщает о дообучении методом KTO и приводит метрики оценки, но не описывает обучающие данные и целевые сценарии подробнее. Модель подходит для генерации и продолжения текста, в том числе кода, в рамках возможностей базовой DeepSeek Coder. Лицензия указана как other, поэтому условия использования следует сверить с лицензией и файлами репозитория перед применением.

jnkto2 — дообученная модель для генерации кода на основе deepseek-ai/deepseek-coder-1.3b-base, опубликованная пользователем stojchet. Модель с архитектурой Llama содержит 1,3 млрд параметров и принимает текст; заявленная длина контекста — 16 384 токена. Модель предназначена для генерации и продолжения кода. В README приведены метрики оценки, включая loss 0,1622 и оценки chosen/rejected, однако описание набора данных, методики обучения и конкретных сценариев применения отсутствует. Файлы модели опубликованы в формате safetensors. Лицензия указана как other; конкретные условия использования по имеющимся данным определить нельзя.

Josiefied-DeepSeek-R1-0528-Qwen3-8B-abliterated-v1 — разработанная Гёкденизом Гюльмезом дообученная языковая модель семейства Qwen3, созданная на основе deepseek-ai/DeepSeek-R1-0528-Qwen3-8B. Модель имеет плотную архитектуру Qwen3ForCausalLM и 7,6 млрд параметров; она предназначена для генерации текста в диалоговом и инструктивном режимах, включая использование интерфейса вызова инструментов. Заявленный контекст — до 131 072 токенов. Модель ориентирована на открытое следование инструкциям и менее ограниченную генерацию, сохраняя возможности работы с инструментами. Подходит для диалогов, ответов на вопросы, генерации кода и рассуждений; её базовая модель обучена на цепочках рассуждений и рассчитана также на математические и логические задачи. В репозитории указаны веса Safetensors, а для семейства доступны сторонние варианты GGUF и MLX. Фильтры безопасности снижены, поэтому модель может выдавать чувствительные или спорные ответы. README рекомендует использовать её ответственно и на свой риск. Лицензия в предоставленных данных не указана.

IFM/K2-Horizon-7B-GGUF — это GGUF-версия модели K2-Horizon-7B, разработанной IFM. Репозиторий предназначен для запуска модели с помощью llama.cpp и содержит тензоры в исходной точности BF16, метаданные токенизатора и совместимый с llama.cpp шаблон чата. Модель представляет собой плотную decoder-only архитектуру среднего размера в семействе K2-Horizon, с 7B параметров в основном ядре и контекстным окном на 524 288 токенов. Она ориентирована на генерацию текста, агентские сценарии, программирование, задачи с длинным контекстом и рассуждения. В README указан английский язык. Модель оценивается на математических, инженерных, кодировочных и long-context-бенчмарках; среди заявленных характеристик — результат 70,6 на SWE-bench Verified и 73,3 на HMMT Feb 2026. К сильным сторонам относятся большое нативное контекстное окно, открытость обучающих данных, рецепта, кода обучения и ресурсов оценки, а также наличие промежуточных чекпойнтов. Для запуска требуется версия llama.cpp с поддержкой архитектуры K2 Horizon; на момент публикации такая поддержка находилась в разработке, а совместимая ветка доступна в форке MBZUAI-IFM. Модель распространяется по лицензии Apache-2.0.

k6 — дообученная модель на 1,3 млрд параметров, созданная на основе deepseek-ai/deepseek-coder-1.3b-base. Она использует плотную архитектуру семейства Llama и предназначена для генерации текста; базовая модель ориентирована на продолжение, автодополнение и заполнение пропусков в коде. Контекст модели составляет 16 384 токена. В карточке указаны результаты оценки: loss 0,1628 и метрики предпочтения ответов, однако набор данных обозначен как None, а сведения о назначении дообучения и сценариях применения отсутствуют. Модель распространяется под лицензией other; конкретные условия этой лицензии в доступных данных не раскрыты.

Kai-30B-Instruct — инструктивно дообученная языковая модель NoesisLab на 30B параметров, крупнейшая в семействе Kai. Она основана на архитектуре Qwen2ForCausalLM и предназначена для диалогов, рассуждений, математических задач и генерации кода. Для дообучения применён метод ADS (Adaptive Dual-Search Distillation), который меняет функцию потерь, не модифицируя архитектуру модели. Модель принимает текст и генерирует текст; заявлены контекст до 32 768 токенов и поддержка английского языка. В карточке приведены результаты нескольких тестов рассуждений и здравого смысла, но они не подтверждают качество во всех сценариях. Для запуска требуются значительные вычислительные ресурсы из-за размера модели. Лицензия — Apache-2.0.

KAI-7B-Instruct-v0.1 — диалоговая языковая модель Keynote Technology на 7,1 млрд параметров с архитектурой MistralForCausalLM. Это дообученная инструктивная версия семейства KAI-7B, основанного на KAI-7B и Mistral-7B; в обучении использовалась смесь наборов данных для чата и выполнения инструкций, включая PLANE-2K и RedPajama-Data-V2. Модель принимает текст и генерирует текст, поддерживает сценарии чата, следование инструкциям и работу с кодом. Заявленная длина контекста — 32 768 токенов. Модель предназначена для развёртывания в приложениях, которым нужны диалоговые ответы, выполнение текстовых инструкций и помощь с кодом. Карточка заявляет улучшенное следование инструкциям, но не приводит независимых оценок качества. Лицензия — Apache 2.0; разработчик отдельно запрещает использовать модели KAI для разжигания ненависти против людей или групп.русский язык явно не заявлен среди поддерживаемых языков.

Модель KARAKURI Inc. karakuri-lm-8x7b-instruct-v0.1 — диалоговая языковая модель на архитектуре Mixtral Mixture of Experts, дообученная на базе tokyotech-llm/Swallow-MX-8x7b-NVE-v0.1. Она предназначена для генерации ответов и инструкций на английском и японском языках, включая сценарии вызова инструментов и работы с RAG. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В шаблоне диалога предусмотрены девять управляемых атрибутов ответа: полезность, корректность, связность, сложность, многословность, качество, токсичность, юмор и креативность. Модель дообучали примерно на 1 млрд токенов данных, в том числе на наборах для диалогов, программирования, вызова функций, математики, SQL и RAG. Репозиторий использует формат safetensors и библиотеку Transformers. Известное ограничение: модель может пытаться вызывать инструменты, которые не предоставлены приложением; такие вызовы следует отфильтровывать при постобработке. Лицензия — Apache 2.0.

RemySkye/KAT-Coder-V2.5-Dev-GGUF — это набор GGUF-квантизаций модели KAT-Coder-V2.5-Dev, разработанной Kwaipilot и подготовленной для использования с llama.cpp пользователем RemySkye. Модель предназначена для генерации кода и агентских сценариев программирования, включая работу с инструментами и автоматизацию задач разработки, однако подробные сведения о возможностях исходной модели в представленном README отсутствуют. Доступны варианты от BF16 размером 64,61 GiB до квантизаций Q2_K размером 12,05 GiB, а также форматы Q3, Q4, Q5, Q6 и Q8. Квантизация позволяет выбирать компромисс между требованиями к памяти и сохранением качества, но более компактные варианты могут уступать полноразмерной версии. Модель относится к архитектуре mixture-of-experts; также заявлены поддержка текстовой генерации и кодовых задач. Языки, размер исходной модели, контекстное окно и модальности в README не указаны. Распространяется по лицензии Apache-2.0. Ограничения и условия использования, кроме лицензии, должны уточняться в документации исходной модели Kwaipilot/KAT-Coder-V2.5-Dev.

KAT-Coder-V2.5-Dev-OptiQ-4bit-REAP-18B — это квантованная модель для генерации текста и кода, опубликованная сообществом mlx-community и предназначенная для локального запуска на устройствах Apple Silicon с использованием MLX. Она создана на основе mlx-community/KAT-Coder-V2.5-Dev-OptiQ-4bit с применением toolkit mlx-optiq и метода REAP, разработанного Cerebras Research. Модель ориентирована на программирование, генерацию текста и другие задачи, поддерживаемые исходной MoE-моделью, однако конкретный набор языков и специализированных сценариев в README не указан. Модель использует архитектуру Mixture-of-Experts: сохранено 128 из 256 экспертов в каждом слое, при этом для каждого токена по-прежнему активируются 8 экспертов. Объём модели составляет 18,3 млрд параметров, размер на диске — 11,4 ГБ против 34,7 млрд параметров и 20,4 ГБ у родительской версии. Эксперты были отобраны равномерно по слоям на основе условного среднего произведения веса маршрутизатора и нормы выхода эксперта. Удалённые эксперты не переобучались, а сохранённые были скопированы без изменений в квантованном виде. Главное преимущество модели — заметное снижение требований к дисковому пространству и памяти при сохранении исходного числа активных экспертов на токен, поэтому уменьшение размера не должно приводить к замедлению генерации. При этом данная версия отдельно не benchmark-илась, а опубликована по рецепту, проверенному на другой модели той же архитектуры. Для протестированного варианта сообщалось снижение общего Capability Score при сохранении процедурных способностей; качество конкретно этой модели может отличаться. Контекстное окно, поддерживаемые языки и MTP sidecar не указаны, причём MTP sidecar отсутствует. Модель распространяется по лицензии Apache-2.0.

KeawGPT — языковая модель KordAI с архитектурой Qwen3 и примерно 3,7 млрд параметров, дообученная на базе KordAI/KeawGPT-Base. Она предназначена для генерации ответов и рассуждений на английском языке по STEM-дисциплинам — математике, физике, инженерии и информатике — и философии, включая логику, этику и анализ аргументов. Модель поддерживает диалог и структурированные вызовы инструментов, например для поиска в интернете и выполнения кода, если приложение умеет обрабатывать вызовы и передавать результаты обратно модели. Контекст — до 32 768 токенов; веса доступны в формате Safetensors. Модель подходит для объяснения технических понятий, разбора задач и концептуальных вопросов, а также для использования в агентных сценариях с инструментами. Она может допускать фактические и логические ошибки, особенно в многошаговых доказательствах и узкоспециальных темах, и выдумывать цитаты или источники. Вызов инструментов требует соответствующей реализации в приложении. Модель не предназначена для критически важных решений или профессиональных медицинских, юридических и финансовых консультаций. Лицензия — Apache-2.0.

KielEmbed-Code — модель плотных эмбеддингов для представления кода и текста, опубликованная под идентификатором kiel2/KielEmbed-Code. Это Sentence Transformer, дообученный на базе microsoft/codebert-base с архитектурой RoBERTa. Модель кодирует предложения и фрагменты кода в векторы размерности 768; сходство между ними оценивается косинусной мерой. Максимальная длина входной последовательности — 512 токенов по README и 514 токенов по метаданным. Модель предназначена для семантического поиска по коду и тексту, сравнения смысловой близости и кластеризации. В README указаны 10 000 обучающих примеров и дообучение в течение одной эпохи с CosineSimilarityLoss. Эти сведения описывают обучение, но не подтверждают качество на независимых тестах. Условия лицензирования в предоставленных данных не указаны.

unsloth/Kimi-K2-Instruct-GGUF — это GGUF-квантизированная версия Kimi-K2-Instruct, разработанного Moonshot AI и подготовленная Unsloth. Модель предназначена для общего диалога, решения задач на знания и рассуждения, программирования, использования инструментов и агентских сценариев. Версия Instruct ориентирована на готовое применение без длительного режима пошагового размышления. Модель использует архитектуру Mixture-of-Experts (MoE): 1 триллион общих параметров, из которых 32 миллиарда активируются для каждого токена. Архитектура включает 61 слой, 384 эксперта с выбором 8 экспертов на токен, один общий эксперт, 64 головы внимания, механизм MLA, активацию SwiGLU и словарь размером 160 тысяч токенов. Длина контекста составляет 128 тысяч токенов. В README языки и дополнительные модальности не указаны. GGUF-версии предназначены для локального запуска, в частности через актуальную версию llama.cpp. Для небольших квантов рекомендуется не менее 128 ГБ объединённой оперативной памяти; при наличии 16 ГБ VRAM и 256 ГБ RAM ожидается скорость свыше 5 токенов в секунду. Для наилучшего качества рекомендуются 2-битные XL-кванты или более высокие варианты, а температура 0,6 помогает снизить повторения и несвязность. Ограничениями являются очень высокие требования к памяти и возможные потери качества, зависящие от выбранного уровня квантования. Лицензия указана как modified MIT; также приведена ссылка на файл LICENSE.md.

kto10k1 — дообученная модель на основе deepseek-ai/deepseek-coder-1.3b-base с архитектурой Llama и 1,3 млрд параметров. В метаданных указан метод KTO; модель предназначена для генерации текста и может применяться для продолжения, автодополнения и заполнения пропусков в коде — сценариев, для которых рассчитана базовая модель DeepSeek Coder. Поддерживает контекст до 16 384 токенов и распространяется в формате safetensors. Карточка не описывает отдельные целевые задачи, языки программирования, датасет или результаты оценки именно kto10k1. Лицензия указана как other, поэтому условия использования следует проверять в репозитории модели и базовой модели.

Ling-3.0-tiny — компактная гибридная языковая модель для диалогов, рассуждений и агентных задач; разработчик в предоставленной карточке не назван. Модель использует архитектуру MoE с чередованием слоёв KDA и MLA: на каждый токен активируется часть экспертов. README сообщает о 7,9 млрд параметров всего и 1,3 млрд активных на токен, тогда как метаданные Hugging Face указывают 977,5 млн параметров, поэтому размер модели в источниках расходится. Метаданные указывают контекст 131 072 токена и формат safetensors; карточка также описывает варианты весов BF16, FP8 и INT4. Модель предназначена для локального и ресурсно-ограниченного запуска, ответов на инструкции, программирования, математических и научных рассуждений, понимания длинного контекста и агентных сценариев. Режим пошагового рассуждения можно включать для сложных запросов. README приводит результаты собственных оценок и примеры запуска на отдельных устройствах, но они не гарантируют такую же скорость или качество на другом оборудовании. Лицензия по метаданным — MIT.

LLaDA2.0-flash-preview — открытая инструктивно настроенная диффузионная языковая модель от InclusionAI для диалогов и практических задач. Она использует архитектуру Mixture-of-Experts: в README указано 100 млрд параметров, из которых около 6,1 млрд активируются при инференсе; метаданные каталога указывают 5,5 млрд параметров. Архитектура включает 32 слоя, 32 головы внимания, RoPE и словарь размером 157 184 токена. Модель предназначена для генерации текста, ответов на вопросы, написания кода, математических рассуждений и сценариев с вызовом инструментов. Это diffusion language model (dLLM), доступная в формате safetensors через Transformers. В README указан контекст 4 096 токенов, тогда как метаданные каталога сообщают нативный контекст 16 384 токена. Репозиторий распространяется по лицензии Apache-2.0. README рекомендует температуру 0 и параметры block_length=32, steps=32; при повышении температуры возможно смешение языков и снижение качества. Модель обозначена как preview, поэтому её зрелость следует считать экспериментальной.

martyn/llama2-megamerge-dare-13b-v2 — слитая модель на архитектуре LLaMA 2, созданная объединением 17 моделей на 13 млрд параметров с помощью DARE. В состав входят базовая LLaMA 2 13B и модели для генерации кода и Python, математики, диалогов и следования инструкциям; автор отмечает, что модель, по-видимому, обобщает разные стили инструкций. Модель предназначена для генерации текста в ответ на запросы, включая диалоговые ответы, код и математические рассуждения. Она принимает текст и выдаёт текст, поддерживает английский язык и имеет контекст длиной 4096 токенов. Репозиторий содержит веса в формате safetensors. Для использования действует лицензия Llama 2. README указывает, что параметры p и lambda выбраны предположительно; качество и поведение объединённой модели отдельно не охарактеризованы, поэтому результаты стоит проверять на целевых задачах.

QuantFactory/Llama3.1-8B-Fireplace2-GGUF — квантизированная версия языковой чат-модели ValiantLabs/Llama3.1-8B-Fireplace2, созданная с использованием llama.cpp. В основе лежит Llama 3.1 8B Instruct; модель предназначена для генерации текста и диалогового взаимодействия на английском языке. Дата исходного выпуска Fireplace 2 — 23 июля 2024 года. Модель ориентирована на обычный чат и техническое ассистирование, а также на формирование структурированных ответов по запросу. Она поддерживает inline function calls, SQL-запросы, JSON-объекты и генерацию примеров визуализации данных с помощью matplotlib, позволяя сочетать обычный текст и структурированные форматы в одном диалоге. Для работы используются формат промптов Llama 3.1 Instruct и специальные маркеры запросов соответствующего типа. Ключевое преимущество модели — расширение возможностей Llama 3.1 8B Instruct функциями для интеграции с инструментами, базами данных и задачами визуализации. GGUF-квантизация и создание через llama.cpp ориентированы на локальный запуск, однако конкретный вариант квантизации, требования к памяти, размер контекста и поддерживаемые форматы файлов в представленном README не указаны. Модель является текстовой и не предназначена для обработки изображений или других мультимодальных данных. Лицензия указана как llama3.1; условия её применения следует уточнять в лицензии исходной модели.

Карточка модели SakanaAI/Llama-3-8B-Instruct-DB-Expert на Hugging Face совпадает с карточкой SakanaAI/Llama-3-8B-Instruct-Coding-Expert, поэтому описание составлено по ней. Sakana AI разработала Llama-3-8B-Instruct-Coding-Expert — экспериментальную авторегрессионную языковую модель семейства Llama на 7,5 млрд параметров, основанную на Llama-3-8B-Instruct. Модель предназначена для генерации текста в диалоговом режиме и ориентирована на задачи программирования; в README указаны обучающие данные Magicoder-Evol-Instruct-110K и Magicoder-OSS-Instruct-75K. Модель принимает текст и генерирует текст. Метаданные указывают английский язык и контекст до 8192 токенов. В README модель представлена как один из экспертных компонентов набора Llama-3-CycleQD. Это экспериментальный прототип для исследований и разработки: авторы не рекомендуют коммерческое использование и развертывание в критически важных средах, а качество результатов не гарантируется. Лицензия — Meta Llama 3 Community License.

Это дообученная плотная языковая модель семейства Llama 3, созданная artificialguybr на базе NousResearch/Meta-Llama-3-8B. Модель содержит 7,5 млрд параметров, принимает текст и предназначена для генерации SQL-запросов по вопросу на естественном языке и контексту со схемой таблиц в формате CREATE TABLE. Она обучена на 78 577 примерах набора b-mc2/sql-create-context, объединяющего WikiSQL и Spider; в карточке указана потеря 0,0201 на оценочной выборке. Контекст модели — 8192 токена. Модель подходит для подготовки запросов к базе данных по известной схеме и поддержки анализа данных. Она опирается на точность переданной схемы, может хуже работать с незнакомыми диалектами, сложными соединениями и подзапросами, а также с неоднозначными вопросами и запросами, требующими внешних знаний. Форматы весов — PyTorch и Safetensors; лицензия в предоставленных данных не указана.

Карточка модели AgentPublic/llama3-instruct-8b на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3-8B-Instruct, поэтому описание составлено по ней. NousResearch/Meta-Llama-3-8B-Instruct — инструктивная версия семейства больших языковых моделей Llama 3, разработанного Meta. Это плотная авторегрессионная трансформерная модель класса LlamaForCausalLM с Grouped-Query Attention и примерно 7,5 млрд параметров; она принимает текст и генерирует текст, включая код. Контекст — до 8192 токенов. Модель настроена для диалоговых сценариев и работы в роли ассистента: она отвечает на вопросы, поддерживает беседу и выполняет инструкции на английском языке. Настройка включает supervised fine-tuning и обучение с подкреплением на основе человеческой обратной связи. Модель можно запускать через Transformers и использовать в приложениях, которым нужна генерация текста. В карточке указана пользовательская коммерческая лицензия Meta Llama 3. README ориентирует модель прежде всего на английский язык и предостерегает от использования в других языках, хотя допускает дообучение для них при соблюдении условий лицензии и политики допустимого использования. Это статичная модель, обученная на офлайн-данных; для прикладного развёртывания могут потребоваться дополнительные меры безопасности, а ответы модели могут быть ошибочными.

Llama 3 Tulu 2 70B — большая языковая модель-помощник, разработанная AllenAI и дообученная на базе Meta Llama 3 70B. Она обучалась на смеси общедоступных, синтетических и созданных людьми данных, включая набор инструкций и диалогов Tulu V2. Модель содержит 69,5 млрд параметров, использует архитектуру Llama с плотной causal language model и принимает текст для генерации текста. Заявленная основная языковая ориентация — английский; родной контекст составляет 2048 токенов. Модель предназначена для диалогов с помощником, выполнения инструкций, ответов на вопросы, рассуждений и генерации кода. В карточке приведены результаты тестирования на MMLU, GSM8k, BBH, TyDiQA и HumanEval, однако они не гарантируют качество в конкретном приложении. По сведениям README, модель не проходила этап RLHF для согласования безопасных ответов и может выдавать проблемный контент, особенно по соответствующему запросу. Лицензия репозитория — Apache 2.0.

Llama-3-Umievo-Shizuko-sqlcoder-2x8B — языковая модель на архитектуре Mixture of Experts (Mixtral), собранная keitokei1994 с помощью MergeKit. Она объединяет японскую модель Llama-3-Umievo-itr014-Shizuko-8b с моделью rdefog/llama-3-sqlcoder-8b, дообученной на SQL-данных, чтобы сочетать генерацию SQL с ответами на японском языке. Модель предназначена для диалогового взаимодействия и генерации SQL по запросам пользователя. В метаданных указаны 7,5 млрд параметров, контекст до 8192 токенов и поддержка японского и английского языков. Репозиторий содержит веса Safetensors; автор сообщает, что Q4_K_M-версия может полностью загружаться на видеокарту с 12 ГБ памяти и проверялась в llama.cpp и LM Studio. Лицензия — Llama 3. Ограничения качества и точности SQL в карточке не приведены; сгенерированные запросы следует проверять перед выполнением.

Llama-Deepsync-3B — дообученная PrithivMLmods диалоговая языковая модель на архитектуре Llama 3.2, предназначенная для генерации текста с рассуждениями, решения задач и помощи в программировании. По карточке, модель умеет следовать инструкциям, создавать структурированные ответы, включая JSON, работать с таблицами и генерировать длинные тексты. Модель содержит 3,2 млрд параметров и поддерживает контекст до 131 072 токенов; заявленная длина генерации — до 8 000 токенов. README заявляет поддержку более 29 языков, а метаданные перечисляют английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель доступна в формате safetensors для Transformers и распространяется по лицензии CreativeML OpenRAIL-M. Модель подходит для диалоговых помощников, объяснения решений, программирования, математики и творческого письма. Заявления о повышении качества и поддержке языков приведены в карточке модели и не сопровождаются результатами оценки; фактическое качество может различаться в зависимости от задачи и языка.

LosslessMegaCoder-Falcon-40b-mini — языковая модель для генерации текста и кода, созданная Rombodawg в сотрудничестве с Andreaskoepf, аффилированным с Open Assistant. Это плотная авторегрессионная модель семейства Falcon с архитектурой FalconForCausalLM и примерно 65 млрд параметров. Модель дообучена на отфильтрованной версии датасета LosslessMegaCodeTrainingV2_1m_Evol_Uncensored; из выборки удаляли примеры короче 100 токенов. README указывает, что использованный набор данных отличается от LosslessMegaCodeTrainingV3_MINI. Модель предназначена для генерации кода и диалогового взаимодействия в шаблоне ChatML; также приведены шаблоны для GPT4All и Text-Generation-WebUI. В репозитории представлены веса Safetensors. Карточка не сообщает поддерживаемые естественные языки и длину контекста. Лицензия — Apache-2.0. README отмечает ранний этап фильтрации обучающих данных и не приводит результатов оценки качества.

M2H AI UnSensored 8B — разговорный ИИ-ассистент, созданный Prince Kumar из M2H Web Solution на основе Dolphin 2.9 Llama 3 8B. Это дообученная модель семейства Llama 3 с архитектурой Meta Llama 3; репозиторий содержит GGUF-версию для локального запуска через Ollama и совместимые инструменты. Размер базовой модели — 8 млрд параметров. Модель предназначена для помощи в программировании и веб-разработке, работе с API и Linux, а также для задач кибербезопасности. Она поддерживает диалог и позиционируется автором как модель с менее ограниченными ответами. В карточке указан английский язык; максимальная длина контекста не приведена. Для запуска автор рекомендует локальную среду, совместимую с GGUF, и указывает минимум 16 ГБ оперативной памяти и видеокарту RTX 3050 с 6 ГБ памяти. Модель распространяется на условиях лицензии Meta Llama 3; использование должно соответствовать её условиям и применимому законодательству. Ответы модели могут быть неточными, особенно в задачах кибербезопасности и при выдаче инструкций для командной строки, поэтому результаты требуют проверки.

marin-8b-instruct-GGUF — это набор GGUF-квантизированных файлов модели marin-community/marin-8b-instruct, подготовленный mradermacher. Модель предназначена для генерации текста и выполнения инструкций; варианты GGUF позволяют запускать её локально с разным балансом между качеством, скоростью и потреблением памяти. При обучении использовались наборы данных AceCode-87K, Bespoke-Stratos-17k, dolphin-r1, natural_reasoning, OpenThoughts-114k-math и smoltalk, что указывает на применимость к программированию, рассуждениям, математическим и общим диалоговым задачам. Размер базовой модели — 8 млрд параметров, однако точная архитектура и максимальная длина контекста в README не указаны. Заявлен английский язык; сведения о поддержке других языков и модальностей отсутствуют, поэтому модель следует считать текстовой и ориентированной прежде всего на англоязычные сценарии. Доступны варианты от Q2_K размером около 3,3 ГБ до f16 размером около 16,2 ГБ; Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант очень хорошего качества, а Q8_0 — как вариант наилучшего качества среди перечисленных. К преимуществам относятся широкий выбор квантизаций и возможность локального запуска, а также настройка под задачи программирования, рассуждений и генерации текста. Более сильное сжатие уменьшает требования к памяти, но может снижать качество; README отдельно отмечает более низкое качество Q3_K_M. Модель распространяется по лицензии Apache-2.0.

Master-Yi-9B — разговорная языковая модель семейства Llama, разработанная автором репозитория qnguyen3. Модель с 8,6 млрд параметров обучена методом ORPO на ответах, созданных из собранных людьми исходных вопросов и ответов нескольких высокопроизводительных открытых LLM. В репозитории представлены веса в формате safetensors; модель создана в мае 2024 года. Модель предназначена для генерации ответов в диалоге и особенно ориентирована на рассуждения при решении задач по программированию и математике. В README приведены результаты нескольких бенчмарков, включая GSM8K, MMLU и TruthfulQA. Базовое окно контекста составляет 4096 токенов. Модель принимает текстовые запросы и генерирует текст. README не подтверждает поддержку заявленной там отдельной версии Vision; для Master-Yi-9B указана только текстовая генерация. Известное ограничение — контекст до 4096 токенов; бенчмарковые оценки не гарантируют точность на конкретных задачах. Лицензия — Apache-2.0.

EpistemeAI/MathCoder-Llama3.1-8B — плотная авторегрессионная языковая модель семейства Llama, разработанная EpistemeAI и дообученная на базе EpistemeAI/Math-Code-Llama3.1-8B. Она предназначена для генерации текста, решения математических задач и помощи с кодом. Модель содержит 7,5 млрд параметров, принимает текст и генерирует текст. Метаданные указывают контекст длиной до 131 072 токенов и поддержку английского языка. Для обучения использовались Unsloth и библиотека Hugging Face TRL; веса доступны в форматах PyTorch и safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результатов оценки качества или конкретных ограничений, поэтому способности к математике и программированию не следует считать гарантией правильности ответов.

EpistemeAI/MathCoder-Llama3.1-8B-cot — дообученная EpistemeAI модель на архитектуре Llama 3.1 с 7,5 млрд параметров. Она создана для генерации текста с цепочкой рассуждений и ориентирована на решение математических задач и помощь с кодом. Модель принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. В основе модели — плотный авторегрессионный трансформер Llama, дообученный методом supervised fine-tuning с использованием chain of thought. Карточка описывает Llama 3.1 как многоязычное семейство, однако именно для этой модели подтверждён английский язык. Лицензия в метаданных — Apache 2.0. Качество ответов и корректность рассуждений могут варьироваться, поэтому результаты вычислений и сгенерированный код требуют проверки.