I.14Автоматизация процессов и AI-агенты

Карточка модели t-kawata/Ternary-Bonsai-27B-mlx-2bit на Hugging Face совпадает с карточкой prism-ml/Ternary-Bonsai-27B-mlx-2bit, поэтому описание составлено по ней. Ternary Bonsai 27B — модель Prism ML, созданная на базе Qwen3.6-27B для локальной генерации текста, рассуждений и диалогового применения. Это плотная гибридная трансформерная архитектура с линейным и полным вниманием; языковые веса представлены значениями −1, 0 и +1 с групповым масштабированием и занимают около 1,71 бита на параметр. Модель содержит примерно 27,3 млрд языковых параметров и отдельную башню зрения примерно на 0,46 млрд параметров, однако в карточке для неё заявлена задача text-generation. Модель рассчитана на запуск на ноутбуках и одной видеокарте, в том числе локально и без подключения к сети. Заявлены контекст до 262 тысяч токенов, поддержка диалога и сохранение значительной части качества исходной модели при уменьшенном размере; для Apple MLX и CUDA предоставлены специализированные низкоразрядные ядра. Авторы сообщают о результатах на тестах рассуждений, математики, программирования и использования инструментов, но длительные агентные сценарии программирования пока не являются сильной стороной этой версии. Репозиторий распространяется по лицензии Apache-2.0. Указанный объём развёрнутой модели — около 7,2 ГБ, поэтому она не помещается в заявленный бюджет памяти приложения на iPhone; README также отмечает компромисс качества и размера относительно полноточной модели и использование 4-битного KV-кэша.

Triangulum 10B it — мультиязычная авторегрессионная языковая модель для генерации текста и диалогового общения, разработанная prithivMLmods. Она основана на архитектуре LLaMA и содержит около 9,9 млрд параметров; модель настроена следовать инструкциям и, согласно карточке, обучалась на синтетических данных с длинными цепочками рассуждений, с применением SFT и RLHF. Контекст модели — до 32 768 токенов. Модель предназначена для генерации мультиязычного контента, ответов на вопросы, диалога, суммаризации и анализа текста, а также перевода и локализации. Метаданные указывают английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Репозиторий содержит веса в safetensors; в README также приведён пример запуска совместимой версии через Ollama. Лицензия — CreativeML OpenRAIL-M. Карточка заявляет возможности рассуждения и следования инструкциям, но не приводит независимых оценок качества или подробных результатов тестирования. Как и другие генеративные языковые модели, Triangulum может ошибаться или выдавать недостоверные ответы; качество на отдельных языках и задачах может различаться.

c4ai-command-r-plus-08-2024-GGUF — это квантизированная версия языковой модели c4ai-command-r-plus-08-2024, разработанной CohereForAI и преобразованной в формат GGUF компанией Second State Inc. Модель предназначена для задач генерации и обработки текста, включая диалоговые сценарии, ответы на вопросы и работу с многоязычными запросами. В README указана поддержка английского, французского, немецкого, испанского, итальянского, португальского, японского, корейского, китайского и арабского языков. Модель распространяется в нескольких вариантах квантизации GGUF с разрядностью от 2 до 5 бит и размером файлов примерно от 15,9 до 39,5 ГБ; некоторые варианты состоят из нескольких частей. Q4_K_M обозначен как рекомендуемый сбалансированный вариант, тогда как более низкие уровни квантизации сопровождаются заметной потерей качества. В README также приведён контекст 128000 токенов и шаблон prompt типа chatml, однако соответствующие инструкции помечены как закомментированные, а поддержка запуска через LlamaEdge указана как находящаяся в разработке. К сильным сторонам относятся широкий набор поддерживаемых языков и возможность запуска в компактных квантизированных форматах, уменьшающих требования к памяти по сравнению с полноразмерной моделью. Ограничения связаны с потерей качества при агрессивной квантизации, значительным размером даже наиболее компактных файлов и отсутствием в README подробностей об архитектуре, числе параметров, мультимодальности и подтверждённых характеристиках производительности. Лицензия модели — CC BY-NC 4.0, допускающая использование с ограничениями, включая некоммерческий характер применения.

CollectiveCognition-v1.1-Mistral-7B-Mistral-7B-Instruct-v0.2-slerp — объединённая модель на основе Mistral-7B-Instruct-v0.2 и CollectiveCognition-v1.1-Mistral-7B, созданная с помощью метода SLERP. Это плотная авторегрессионная языковая модель Mistral с 7,1 млрд параметров для диалогов и генерации текста по инструкциям; контекст составляет до 32 768 токенов. Модель принимает текст и выдаёт текст, поэтому подходит для диалоговых помощников и задач генерации на естественном языке. Репозиторий содержит веса Safetensors в формате bfloat16. Лицензия — Apache-2.0. В README описана схема слияния, но отдельные результаты оценки качества и подробные ограничения модели не приведены.

Euraika/EuroLLM-22B-Instruct-GPTQ — 4-битная GPTQ-квантизованная версия инструкционной языковой модели EuroLLM-22B-Instruct-2512, разработанной командой EuroLLM проекта UTTER. Квантизацию выполнила Euraika с использованием GPTQModel; модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы, объяснение сложных тем и работу в формате ChatML. Модель поддерживает все 24 официальных языка Европейского союза, а также турецкий, украинский и другие европейские языки: английский, немецкий, французский, итальянский, испанский, португальский, польский, нидерландский, чешский, греческий, венгерский, румынский, финский, шведский, болгарский, словацкий, датский, словенский, литовский, латышский, эстонский, хорватский, ирландский, мальтийский и норвежский. Архитектура базовой модели в README не уточнена; заявлены 22 млрд параметров, 53 трансформерных слоя и размер квантизованной модели около 14 ГБ. Используется GPTQ с точностью 4 бита, group size 128 и desc_act=true. Ключевое преимущество модели — существенное снижение требований к памяти при сохранении заявленного качества квантизации; поддерживаются инференс через GPTQModel, vLLM и Transformers/AutoGPTQ, а также работа на нескольких GPU. Минимально рекомендуется 16 ГБ VRAM, оптимально — 24 ГБ. Ограничения включают зависимость качества от 4-битной квантизации и отсутствие в README сведений о длине контекста базовой модели, мультимодальности, результатах независимых бенчмарков и конкретных гарантиях качества. Модель распространяется по лицензии Apache 2.0.

German-RAG-PHI-3.5-MINI-4B-SFT-HESSIAN-AI — авторегрессионная языковая модель на базе Transformer, разработанная командой Avemio AI при поддержке Hessian AI. Модель дообучена для сценариев генерации с использованием найденных документов и предназначена прежде всего для немецкоязычного рынка. В метаданных указаны архитектура Llama, 3,7 млрд параметров и контекст до 131 072 токенов; веса доступны в формате safetensors. Модель отвечает на вопросы по предоставленному контексту, извлекает релевантную информацию, составляет краткие сводки и выполняет задачи рассуждения. README также описывает обучение на примерах RAG и поддержку немецкого и английского языков. Лицензия в метаданных Hugging Face — MIT; README указывает Apache 2.0, поэтому сведения о лицензии расходятся и требуют проверки перед использованием. Ответы могут содержать фактические ошибки, а без фильтрации модель способна выдавать вредоносный или чувствительный контент. Результаты следует проверять, а для пользовательских приложений учитывать риски предвзятости и генерации небезопасного текста.

Granite-4.0-1B-Base — компактная базовая языковая модель IBM Granite Team для генерации текста в условиях ограниченных вычислительных ресурсов, включая мобильные устройства и IoT. Это декодерный плотный трансформер на 1,6 млрд параметров с архитектурой GraniteMoeHybrid, GQA, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами. Модель обучена с нуля на смеси открытых и проприетарных данных; контекст — до 131 072 токенов. Поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Также поддерживает заполнение пропусков в коде по префиксу и суффиксу (FIM). Модель предназначена для суммаризации, классификации и извлечения информации, ответов на вопросы и дополнения кода; её также можно использовать как основу для дообучения под конкретные задачи. Небольшой размер рассчитан на быстрое выполнение и локальное использование, в том числе с сохранением данных на устройстве. Модель не прошла выравнивание безопасности и может выдавать предвзятые, неверные или проблематичные ответы, а также воспроизводить фрагменты обучающих данных. Распространяется по лицензии Apache 2.0.

bartowski/Llama-3.2-3B-Instruct-GGUF — это квантованная в формате GGUF версия языковой модели Llama 3.2 3B Instruct, разработанной Meta и подготовленной к распространению пользователем bartowski. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, включая ответы на вопросы, помощь в написании и обработке текста, а также локальный инференс в совместимом программном обеспечении. В карточке указаны поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель содержит около 3 миллиардов параметров и относится к текстовым моделям; сведения о точной архитектуре, размере контекста, конкретном уровне квантования и поддержке дополнительных модальностей в карточке не приведены. Формат GGUF ориентирован на эффективный запуск и снижение требований к памяти, однако квантование может уменьшать точность по сравнению с исходными весами. Модель распространяется по лицензии Llama 3.2 Community License от Meta. При распространении материалов или производных продуктов требуется соблюдать условия лицензии, включая предоставление текста соглашения, указание «Built with Llama», сохранение атрибуции и соблюдение Acceptable Use Policy.

LwQ-30B-Instruct — инструкционно настроенная авторегрессионная языковая модель семейства Llama, разработанная prithivMLmods на базе meta-llama/Llama-3.1-8B-Instruct. В метаданных указаны 32,3 млрд параметров, архитектура LlamaForCausalLM, библиотека Transformers и контекст 2048 токенов. Модель предназначена для многоязычного диалога, следования инструкциям, математических рассуждений и решения задач с учетом контекста; также может создавать тексты, краткие изложения и ответы на вопросы. В карточке заявлено обучение на синтетических наборах данных для рассуждений и настройка для инструкционного взаимодействия. Модель принимает текст и генерирует текст; метаданные указывают английский язык, а README заявляет многоязычное применение без перечисления конкретных языков. Указанная лицензия — llama3.1. Среди ограничений отмечены возможные ошибки в сложных рассуждениях и узких темах, различия качества между языками, смещения, чувствительность к неоднозначным инструкциям и ограниченное контекстное окно.

imi2/Meta-Llama-3-120B-Instruct-merged — объединённая языковая модель на архитектуре Llama, созданная с помощью mergekit методом passthrough на основе NousResearch/Meta-Llama-3-70B-Instruct. Модель содержит 120,8 млрд параметров, использует формат safetensors и доступна для работы через Transformers. Модель предназначена для генерации текста и диалогового взаимодействия. Контекст составляет 8192 токена. Данные указывают на поддержку текстового ввода и генерации текста; сведения о специальных предметных областях и языковом охвате не приведены. Лицензия в предоставленных источниках не указана.

ISTA-DASLab/Mistral-Small-3.1-24B-Instruct-2503-GPTQ-4b-128g — квантированная версия инструкционной мультимодальной модели Mistral-Small-3.1-24B-Instruct-2503, опубликованная ISTA-DASLab. Она предназначена для диалоговых задач, генерации и обработки текста, а также сценариев image-text-to-text, включая анализ изображений и ответы на вопросы по ним. Модель содержит 24 млрд параметров и использует INT4-квантование весов линейных операторов языковой части трансформера методом GPTQ с симметричной поканальной по группам схемой и размером группы 128. Визуальная модель и мультимодальный проекционный слой сохранены в исходной точности. Квантование сокращает размер на диске и требования к GPU-памяти примерно на 75%; чекпойнт сохранён в формате compressed_tensors. В README явно указан пример использования с vLLM и Transformers, а для оценки применялся vLLM. По сравнению с исходной моделью на наборе OpenLLM v1 средний результат снизился с 0,7910 до 0,7814, а показатель восстановления составил 0,9878, что указывает на небольшую потерю качества при существенном снижении требований к ресурсам. Ограничения включают зависимость от совместимых версий vLLM или Transformers и необходимость учитывать, что приведённые результаты получены при максимальной длине контекста 4096 токенов; другие характеристики контекста и поддерживаемых языков в README не указаны. Модель распространяется по лицензии Apache-2.0.

Neural-chat-7b-v3-1 — языковая модель команды NeuralChat, разработанная при участии Intel. Это дообученная версия mistralai/Mistral-7B-v0.1: её обучали на наборе Open-Orca/SlimOrca, а затем выравнивали с помощью DPO. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и принимает текстовые запросы. Родной размер контекста — 32 768 токенов. Модель предназначена для диалогов и генерации текста по шаблону с ролями System, User и Assistant. Её оценивали на семи задачах Open LLM Leaderboard, включая ответы на вопросы, рассуждения и математические задачи. Она распространяется по лицензии Apache-2.0. Модель может выдавать фактически неверные, предвзятые, оскорбительные или непристойные ответы. Её ответы требуют проверки, а перед развёртыванием рекомендуется провести тестирование безопасности.

giraffe176 выпустил объединённую модель Open_Hermes_Orca_Mistral-7B — языковую модель Mistral с плотной архитектурой MistralForCausalLM и примерно 7,1 млрд параметров. Она создана методом task arithmetic с помощью mergekit: объединяет teknium/OpenHermes-2.5-Mistral-7B и Open-Orca/Mistral-7B-OpenOrca. Модель предназначена для генерации текста и диалогового общения; заявленная длина контекста — 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса safetensors; в README указана точность float16. Лицензия — Apache-2.0. README приводит результаты оценки на нескольких тестах, но не описывает отдельные гарантии качества или ограничения применения.

Mungert/phi-4-GGUF — это набор GGUF-файлов с моделями Phi-4, предназначенными для локального запуска и инференса в формате GGUF. Репозиторий содержит варианты весов в BF16 и F16, а также квантованные версии Q8_0, Q6_K, Q4_K, Q4_0 и IQ3. Модель относится к классу текстовых генеративных моделей и ориентирована на диалоги, ответы на вопросы, работу с математическими задачами, программным кодом и другими текстовыми запросами. В метаданных указан английский язык и задача text-generation; поддержка других языков не заявлена. Главное преимущество набора — выбор между точностью и требованиями к памяти. Полноформатные BF16 и F16 подходят для оборудования с соответствующим ускорением, а квантованные варианты позволяют запускать модель на CPU и устройствах с ограниченной оперативной памятью или VRAM. Более агрессивное квантование уменьшает размер и потребление памяти, но может снижать точность. Сведения об архитектуре, количестве параметров, размере контекста, мультимодальности и результатах тестирования в README не приведены. Лицензия — MIT. README указывает связь с моделью Microsoft Phi-4 через ссылку на её лицензию; Mungert предоставляет варианты Phi-4 в формате GGUF. Для использования необходимо выбрать файл, совместимый с возможностями оборудования и требуемым уровнем качества.

Salamandra-2B-Instruct — разговорная версия многоязычной языковой модели Salamandra, разработанной Barcelona Supercomputing Center. Это декодерный трансформер семейства Llama с 24 слоями и примерно 2,25 млрд параметров; он дообучен следовать инструкциям и использует шаблон ChatML. Базовая модель предварительно обучена с нуля на 12,875 трлн токенов текста на 35 европейских языках и кода. Контекст модели — до 8192 токенов. Модель предназначена для диалогов и работы в качестве универсального текстового помощника: она может отвечать на вопросы, генерировать и преобразовывать текст, а также помогать с кодом. Поддерживает множество европейских языков, включая русский, и распространяется под лицензией Apache 2.0 для исследовательского и коммерческого применения. Это ранняя демонстрационная версия инструкционного дообучения без RLHF. В неоднозначных сценариях выявлены социальные предубеждения; модель может выдавать вредный или неподходящий контент, поэтому для прикладного использования необходимы оценка рисков и настройка безопасности.

Карточка модели CollectionStudio/Trinity-Nano-Preview на Hugging Face совпадает с карточкой arcee-ai/Trinity-Nano-Preview, поэтому описание составлено по ней. Trinity Nano Preview — экспериментальная чат-модель семейства Trinity от Arcee AI, созданная дообучением Trinity-Nano-Base. В README она описана как разреженная MoE-модель с архитектурой AfmoeForCausalLM, 6 млрд параметров и примерно 1 млрд активных параметров; метаданные указывают 880,3 млн параметров. Поддерживает контекст до 131 072 токенов и работает с текстом на нескольких языках. Модель предназначена для диалогов и генерации текста. Разработчики описывают её как открытую по весам модель для предприятий и энтузиастов, обученную на 10 трлн токенов с дополнительным акцентом на математике и коде. README предупреждает, что в этой предварительной экспериментальной версии возможна нестабильность в отдельных сценариях. Указанная в README лицензия — OpenMDW-1.1; метаданные Hugging Face обозначают её как other.

Yarn-Mistral-7b-64k-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель примерно на 7,1 млрд параметров, созданная MaziyarPanahi слиянием Mistral-7B-Instruct-v0.2 и NousResearch/Yarn-Mistral-7b-64k методом SLERP. Модель использует архитектуру Mistral и предназначена для генерации текста и ответов на инструкции в формате чата. Слияние объединяет параметры внимания и MLP двух моделей с разными весами. Базовый вариант Mistral-7B-Instruct-v0.2 имеет контекст до 32 768 токенов; имя и источник второго компонента указывают на вариант Yarn с расширенным контекстом, но README не подтверждает фактическую длину контекста итоговой модели. Распространяется в формате safetensors по лицензии Apache-2.0.

Aya Expanse 32B — большая языковая модель с открытыми весами, разработанная Cohere For AI. Эта версия представлена в формате GGUF с квантизациями imatrix и предназначена для локального запуска через llama.cpp, KoboldCPP, Ollama, text-generation-webui, GPT4All и другие совместимые инструменты. Модель ориентирована на генерацию текста и обладает мультиязычными возможностями для 23 языков, включая русский, английский, арабский, китайский, французский, немецкий, японский, корейский, испанский, турецкий, украинский и другие. Она основана на предобученной модели семейства Command и включает результаты исследований Cohere For AI в области отбора данных, мультиязычного обучения предпочтениям, настройки безопасности и объединения моделей. Размер исходной модели составляет 32 миллиарда параметров; сведения о длине контекста и точной архитектуре в карточке не указаны. Модель подходит для диалогов, написания и преобразования текстов, а также других задач генерации на поддерживаемых языках. Ключевое преимущество — широкий мультиязычный охват и возможность локального использования в оптимизированных GGUF-квантизациях. Ограничения связаны с требованиями к вычислительным ресурсам, зависящими от выбранной квантизации, а также с тем, что это исследовательский релиз; конкретные показатели качества и параметры контекста не приведены. Использование регулируется лицензией CC-BY-NC и требует соблюдения Acceptable Use Policy компании Cohere.

Bagel DPO 8x7B v0.2 — экспериментальная модель-ассистент, созданная jondurbin дообучением Mixtral 8x7B v0.1: сначала применялось обучение на инструкциях (SFT), затем оптимизация предпочтений DPO. Это языковая модель архитектуры Mixtral с разреженной экспертной структурой MoE, примерно 7,1 млрд параметров и контекстом до 32 768 токенов; поддерживает диалоговую генерацию текста. Для обучения использовались данные по вопросам и ответам, математике, программированию, чтению, диалогам, ролевым сценариям и другим задачам. Модель рассчитана на общие запросы к ассистенту, написание текстов, ответы на вопросы и помощь с кодом. В карточке приведены ограниченные результаты сравнительных проверок, но автор не проводил комплексную оценку. Автор отмечает, что модель унаследовала от базовой Mixtral склонность отказывать в части запросов, несмотря на использование данных для снижения цензурирования. Репозиторий содержит веса Safetensors и распространяется по лицензии Apache-2.0.

Carnice-V3-GGUF — квантованные GGUF-варианты модели Carnice V3 от kai-os, производной от Qwen/Qwen3.8-27B. Модель предназначена для запуска через llama.cpp, включая текстовые, мультимодальные и агентские сценарии с использованием инструментов. В основе лежит объединённая BF16-модель размером 27 781 427 952 параметра; постобучение выполнялось с помощью rank-64 rsLoRA для языковых линейных модулей. Визионные и MTP-модули не дообучались. Заявлена поддержка английского языка, обработки изображений и контекста до 32 768 токенов при указанных настройках запуска. В репозитории доступны варианты Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером примерно от 15,66 до 27,05 GiB, а мультимодальный проектор поставляется отдельно в формате BF16. Q5_K_M рекомендуется как баланс качества и потребления памяти, Q6_K — когда важнее надёжность агентской работы, а Q8_0 — при приоритете минимальных потерь квантования. Проверки показывают небольшое ухудшение perplexity относительно BF16 и успешный тест вызова инструмента, однако эти результаты не являются широким бенчмарком. Модель может быть полезна для локального инференса, обработки изображений, tool use и Hermes Agent. При этом Carnice V3 не прошла формальную проверку поведенческого качества; внутренние тесты выявили более слабое выполнение длинных задач и соблюдение контрактов инструментов по сравнению с базовой моделью. Модель не рекомендуется для автономных, разрушительных, высокорисковых или производственных агентов без независимой оценки, строгой песочницы и ограничений времени, контекста и числа итераций. Распространение осуществляется по лицензии Apache-2.0.

EXAONE-4.5-33B-FP8 — открытая мультимодальная vision-language модель, разработанная LG AI Research. Она предназначена для обработки текста и изображений, включая визуальные вопросы и ответы, анализ документов, контекстное рассуждение и общие задачи понимания мультимодального контента. Модель может применяться в ассистентах, системах работы с документами и исследовательских приложениях. Модель имеет плотную архитектуру causal language model с выделенным vision encoder: 31,7 млрд параметров приходится на языковую часть и 1,29 млрд — на визуальный энкодер, всего около 33 млрд параметров. Используются hybrid attention со sliding window размером 4096 токенов и global attention, Grouped Query Attention, 2D RoPE для визуальных представлений и контекст до 262 144 токенов. Модель поддерживает английский, корейский, испанский, немецкий, японский и вьетнамский языки. Знания ограничены декабрём 2024 года, а веса представлены в FP8-квантизации. Сильными сторонами заявлены конкурентоспособные результаты на общих мультимодальных бенчмарках, понимание документов и рассуждение с учётом корейского контекста; при этом показатели зависят от задачи, а FP8-квантизация и размер модели предъявляют повышенные требования к вычислительным ресурсам. Модель лицензирована по условиям EXAONE; точные ограничения следует уточнять в файле LICENSE.

flammen6-mistral-7B — языковая модель на базе архитектуры Mistral, созданная flammenai слиянием SLERP через mergekit моделей Nous-Hermes-2-Mistral-7B-DPO и flammen5-mistral-7B. Модель содержит 7,1 млрд параметров, предназначена для генерации текста и диалогового взаимодействия по инструкциям; доступна в формате safetensors и использует библиотеку Transformers. Контекстное окно составляет 32 768 токенов. Модель подходит для чат-ботов, написания и преобразования текста, а также ответов на запросы в диалоге. В карточке не приведены сведения о специальных доменах или подтверждённых языках. Распространяется по лицензии Apache-2.0.

duyntnet/gemma-3-12b-it-imatrix-GGUF — набор квантованных GGUF-вариантов инструкционно дообученной мультимодальной модели Gemma 3 12B IT, разработанной Google. Модель предназначена для генерации текста, ответов на вопросы, суммаризации, рассуждений и анализа изображений с выдачей текстового ответа. Квантованные варианты ориентированы на локальный запуск с ограниченными ресурсами через llama.cpp и совместимые клиенты, включая KoboldCPP, Ollama, LM Studio и другие. Модель принимает текст и изображения: изображения нормализуются до 896×896 пикселей и кодируются в 256 токенов каждое. Заявлены поддержка более 140 языков, контекст до 128K токенов для версии 12B и максимальный объём генерируемого текста до 8192 токенов. Использование imatrix-квантизации уменьшает требования к памяти по сравнению с полноразмерными весами, но конкретные характеристики качества и расхода ресурсов зависят от выбранного файла квантизации. Сильными сторонами являются мультимодальность, большой контекст, многоязычность и возможность локального развертывания. Ограничения включают зависимость от совместимого программного обеспечения: для запуска требуется llama.cpp версии b4875 или новее; квантование также может снижать точность по сравнению с исходной моделью. В README лицензия указана как other, без дополнительных условий, поэтому перед использованием необходимо проверить лицензионные положения исходной Gemma 3 12B IT и конкретного файла модели.

Granite-4.0-H-350M-Base — компактная базовая языковая модель IBM Granite Team с архитектурой decoder-only: плотный трансформер с GQA, Mamba2, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами. Модель содержит 278,4 млн параметров, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Она обучена с нуля на смеси открытых и проприетарных данных примерно на 15 трлн токенов. Модель предназначена для генерации текста и может служить основой для суммаризации, классификации и извлечения информации, ответов на вопросы, а также автодополнения кода, включая Fill-in-the-Middle. Компактный размер рассчитан на сценарии с ограниченными ресурсами, в том числе локальное офлайн-развёртывание на мобильных устройствах и IoT-оборудовании. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель не проходила safety alignment и может генерировать предвзятые, недостоверные или проблемные ответы; для небольшой модели также отмечен риск воспроизведения фрагментов обучающих данных. Лицензия Apache 2.0.

K2-Horizon-7B-GGUF — это набор общественных GGUF-квантизаций модели K2-Horizon-7B, разработанной IFM. Данный репозиторий подготовлен сообществом и предназначен для запуска модели локально через llama.cpp. Релиз является только квантизированной конверсией: обучение, дообучение, объединение моделей и иные изменения весов не выполнялись. Исходная модель представляет собой плотную reasoning-модель с 7B параметров и заявленным контекстом до 524 288 токенов. Она ориентирована на генерацию текста, рассуждения, программирование, работу на английском и китайском языках, обработку длинного контекста и agentic-сценарии. В набор входят варианты квантизации от Q8_0 до Q1_0, позволяющие выбирать компромисс между требованиями к памяти и близостью поведения к BF16-версии. По проведённому пилотному тесту Q4_K_M является практичной отправной точкой для локального использования, а Q5_K_M и Q6_K лучше сохраняют поведение исходной модели; более компактные варианты требуют проверки на целевой задаче. Модель поддерживает запуск и проверку генерации в llama.cpp, однако авторы этого релиза отдельно отмечают, что tool calling и полный upstream-набор бенчмарков повторно не оценивались, а включённый шаблон чата не является сертифицированным полным tool-aware шаблоном. Результаты проверки измеряют близость следующего токена к BF16 и не являются прямой оценкой сохранённых прикладных возможностей. Распространение выполняется по Apache License 2.0 с сохранением атрибуции и лицензии; релиз не является официальной публикацией или одобрением IFM.

LeoScorpius-GreenNode-Platypus-7B-v1-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и ignos/LeoScorpius-GreenNode-Platypus-7B-v1 методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и диалоговые запросы; заявленная длина контекста — 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Карточка не приводит оценки качества или подробных ограничений, поэтому пригодность для конкретных сценариев следует проверять на собственных данных.

kldzj публикует инструкционно настроенную текстовую модель Llama 3.3 Heretic на 69,5 млрд параметров, основанную на meta-llama/Llama-3.1-70B и представленную в формате safetensors для Transformers. Это авторегрессионная плотная модель семейства Llama с архитектурой оптимизированного трансформера; метаданные указывают контекст до 131 072 токенов и режим диалога. Модель принимает и генерирует текст, а семейство предназначено для многоязычных диалогов и генерации текста. Модель подходит для чат-ассистентов, ответов на вопросы, написания и преобразования текста, а также генерации синтетических данных. Карточка семейства перечисляет английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский; русский среди поддерживаемых языков не указан. Тег heretic и пометки uncensored/decensored/abliterated указывают на вариант с ослабленными ограничениями отказа, но README не описывает точную процедуру его получения. Лицензия указана как llama3.3 — пользовательская лицензия Meta Llama 3.3 Community License Agreement; перед использованием необходимо соблюдать её условия и Acceptable Use Policy. Как и у других языковых моделей, ответы могут содержать ошибки, а качество и безопасность на языках вне заявленного списка могут быть ниже; интеграция с внешними инструментами требует отдельной настройки.

Magpie-Align/Llama-3-8B-Magpie-Align-SFT-v0.3 — плотная языковая модель семейства Llama 3, созданная Magpie-Align дообучением Meta-Llama-3-8B методом supervised fine-tuning на наборах Magpie-Pro-MT-300K-v0.1, Magpie-Reasoning-150K и Magpie-Qwen2-Pro-200K-Chinese. Размер модели — 7,5 млрд параметров, контекст — 8192 токена; она принимает текстовые запросы и генерирует текст, в том числе в формате диалога по официальному шаблону Llama 3. Модель предназначена для следования инструкциям, диалогов, рассуждений и генерации ответов на английском и китайском языках. Авторы сообщают о результатах, сопоставимых с Llama-3-8B-Instruct при использовании только SFT; эти показатели относятся к указанным в карточке бенчмаркам и не гарантируют качество в каждом сценарии. Модель доступна на условиях лицензии Meta Llama 3 Community License.

QuantFactory/Llama-3-KoEn-8B-GGUF — квантизированная версия модели beomi/Llama-3-KoEn-8B, созданная с помощью llama.cpp. Исходная модель разработана Junbum Lee (Beomi) на основе Llama 3 8B; обучение продолжалось на корпусе на корейском и английском языках при поддержке программы TRC и выполнялось на TPUv4-256. Модель предназначена для генерации текста и кода, а также для адаптации к различным задачам обработки естественного языка. Это авторегрессионная языковая модель с оптимизированной архитектурой Transformer и механизмом GQA. Доступен один вариант размером 8B параметров, с контекстом до 8k токенов и объёмом обучения более 80B токенов. На вход принимает только текст и генерирует текст или код; модель является статичной и обучена на офлайн-данных. README не уточняет конкретный формат квантизации и его влияние на производительность или качество. К сильным сторонам относятся поддержка корейского и английского языков, относительно компактный размер и возможность локального запуска благодаря квантизации. Ограничения включают статус предварительного релиза, дату отсечения знаний — июнь 2023 года, отсутствие встроенной инструкционной настройки у базовой модели и необходимость самостоятельно реализовать меры безопасности. Использование регулируется лицензией CC-BY-NC-SA-4.0 в сочетании с лицензией Llama 3 и соответствующими правилами допустимого использования; коммерческие и иные сценарии должны проверяться на соответствие этим условиям.

KaraKaraWarehouse/Llama-MiraiFanfare-2-3.3-70B — объединённая языковая модель на архитектуре Llama, созданная методом TIES с помощью mergekit. В слияние вошли Blackroot/Mirai-3.0-70B и EVA-UNIT-01/EVA-LLaMA-3.33-70B-v0.1; базовой моделью для слияния указана EVA-UNIT-01/EVA-LLaMA-3.33-70B-v0.1. Модель содержит 69,5 млрд параметров и использует формат safetensors. Модель предназначена для генерации текста и диалогового взаимодействия. Контекстное окно составляет 131 072 токена, что подходит для работы с длинными запросами и документами. В README не описаны специализированные области применения или языковые ограничения. Карточка не указывает лицензию. Качество и ограничения слияния отдельно не описаны; поведение может зависеть от сочетания исходных моделей.