I.14Автоматизация процессов и AI-агенты

SG Raccoon Yi 55B 200K — языковая conversational-модель, разработанная Marco Lironi на базе архитектуры Yi и опубликованная в формате GGUF. Репозиторий TheBloke содержит её квантизированные версии для локального запуска; исходная неквантизированная модель доступна в формате PyTorch. Указан английский язык. Модель предназначена для диалоговых сценариев и генерации текста. GGUF-файлы поддерживаются llama.cpp и рядом совместимых интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Доступны варианты квантизации с разрядностью от 2 до 8 бит, что позволяет выбирать между требованиями к памяти, скоростью и сохранением качества. В README также указан размер контекста 200K, отражённый в названии модели. К сильным сторонам относятся большой контекст и возможность локального CPU+GPU-инференса с разными уровнями квантизации. Ограничения — необходимость значительных вычислительных ресурсов для модели класса 55B, возможная потеря качества при агрессивной квантизации и отсутствие в предоставленных данных подробных результатов оценки. Модель распространяется по лицензии yi-license; README ссылается на лицензию Yi и обозначает её как нестандартную.

MindLink-32B-0801-GGUF — это GGUF-квантизованная версия языковой модели MindLink-32B-0801, разработанной Skywork и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и запуска в llama.cpp, LM Studio и других совместимых проектах на базе llama.cpp. Модель имеет размер 32B параметров и поставляется в вариантах от BF16 до различных уровней квантизации, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M и более компактные форматы. Размер файлов составляет примерно от 13,7 до 65,5 ГБ в зависимости от варианта. Квантизация выполнена с использованием imatrix на базе llama.cpp release b6014; старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти, но сильнее уступают в качестве. Поддерживаемые языки, размер контекстного окна, точная архитектура, мультимодальность и специализация исходной модели в README не указаны. Сильная сторона модели — широкий выбор квантизаций для локального запуска и возможность подобрать баланс между качеством, потреблением памяти и скоростью. Для большинства сценариев автор рекомендует варианты Q4_K_M, Q5 и Q6. Ограничением является отсутствие указанного chat template: в README отмечено, что используется шаблон по умолчанию, который может быть некорректным, поэтому его следует сверять с карточкой исходной модели. Лицензия в предоставленных данных не указана.

Speechless-Llama2-Hermes-Orca-Platypus-WizardLM-13B-GGUF — это квантизированная языковая модель в формате GGUF, созданная на основе модели Speechless Llama2 Hermes Orca-Platypus WizardLM 13B. Исходную модель разработал Jiangwen Su, а квантизацию и публикацию GGUF-файлов выполнил TheBloke. Модель относится к семейству Llama и предназначена для генерации текста и выполнения инструкций на естественном языке. Модель рассчитана на англоязычные сценарии: диалоговые приложения, ответы на инструкции, локальный запуск и другие задачи текстовой генерации. Указан размер 13B параметров, однако сведения о длине контекста и поддерживаемых модальностях отсутствуют; по имеющимся данным, модель работает только с текстом. Для взаимодействия используется шаблон Alpaca с секциями Instruction и Response. Главное преимущество этой версии — формат GGUF с вариантами квантизации от 2 до 8 бит, что позволяет запускать модель через llama.cpp и совместимые интерфейсы на CPU и GPU, снижая требования к памяти. При этом квантизация может уменьшать точность по сравнению с исходной версией FP16, а качество зависит от выбранного варианта. Модель распространяется по лицензии Llama 2; перед использованием следует учитывать условия этой лицензии и ограничения исходной модели.

tau-0.5B — языковая модель M4-ai, созданная дополнительным предварительным обучением Qwen1.5-0.5B на наборе учебников UltraTextbooks-2.0. Это плотная авторегрессионная модель семейства Qwen2 с 463,9 млн параметров, принимающая текст и генерирующая текст; заявленное окно контекста — 32 768 токенов. В метаданных указана поддержка английского и китайского языков. Модель предназначена для генерации текста общего назначения с усиленным охватом машинного обучения, математики и программирования. Её можно применять для ответов на учебные вопросы, суммаризации, создания учебных материалов, понимания и генерации кода, а также решения математических задач. Карточка приводит результаты тестов, но предупреждает о возможных неточностях и смещениях в данных. Указана лицензия other; README рекомендует изучить лицензию Qwen перед использованием.

TheDrummer_Gemma-3-R1-12B-v1-GGUF — это набор квантизированных версий модели Gemma-3-R1-12B-v1, разработанной TheDrummer и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые приложения на базе llama.cpp. Доступны варианты от BF16 до низкобитных квантизаций размером примерно от 5,21 до 23,54 ГБ, что позволяет выбирать баланс между качеством, потреблением памяти и скоростью работы. К сильным сторонам относятся широкий выбор вариантов сжатия и применение imatrix-калибровки, призванной сохранить качество при квантизации. Рекомендуемыми обозначены, в частности, Q4_K_M, Q5_K_M, Q6_K и другие варианты Q4–Q6; низкобитные версии рассчитаны на системы с ограниченным объёмом RAM, но могут заметно уступать по качеству. В README не указаны контекстное окно, языки, поддерживаемые модальности, точная архитектура исходной модели и лицензия. Формат промпта также не приведён, поэтому его следует уточнять на странице исходной модели TheDrummer/Gemma-3-R1-12B-v1.

UwU-7B-Instruct — дообученная модель для генерации текста, разработанная автором репозитория qingy2024. Она создана на базе Qwen/Qwen2.5-7B и полностью дообучена на наборе FineQwQ-142k. Автор позиционирует её как универсальную модель для рассуждений и диалогового использования. Модель использует плотную архитектуру Qwen2, содержит 7,1 млрд параметров и поддерживает контекст до 131 072 токенов. Она принимает текст и генерирует текст; в метаданных заявлены русский, английский, китайский и другие языки. Лицензия — Apache-2.0. README не приводит количественных оценок качества или подробных результатов тестирования.

v1olet_merged_dpo_7B-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на 7,1 млрд параметров, созданная слиянием mistralai/Mistral-7B-Instruct-v0.2 и v1olet/v1olet_merged_dpo_7B методом SLERP. Она использует архитектуру MistralForCausalLM и предназначена для генерации текста и ответов на инструкции в чат-сценариях. Контекст модели составляет до 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Сведения о специальных предметных областях или сравнительных оценках качества в карточке не приведены.

YamshadowStrangemerges_32_CalmeInex12 — объединённая языковая модель на архитектуре Mistral, созданная из automerger/YamshadowStrangemerges_32-7B и automerger/CalmeInex12-7B. Модель содержит 7,1 млрд параметров и принимает текст для генерации текста; заявленный контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Веса доступны в формате safetensors, лицензия — Apache-2.0. README не сообщает подробностей о языковой специализации или методе объединения моделей.

MaziyarPanahi/Yi-1.5-34B-Chat-GGUF — набор файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе чат-модели Yi-1.5-34B-Chat, разработанной командой 01-ai. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые приложения и библиотеки. Модель имеет размер 34B параметров и доступна в вариантах квантования от 2 до 8 бит, что позволяет выбирать между требованиями к памяти, скоростью и качеством генерации. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другими инструментами. В README не указаны языки, размер контекста и поддерживаемые модальности; по представленным данным модель является текстовой. К сильным сторонам относятся широкий выбор уровней квантования и удобство локального использования с CPU и GPU через экосистему GGUF. Ограничениями являются повышенные требования к ресурсам для версии 34B, особенно при минимальном квантовании, а также возможная потеря качества в более компактных вариантах. Для модели указана лицензия Apache-2.0.

bartowski/zai-org_GLM-4.5-GGUF — это набор GGUF-квантизаций модели GLM-4.5, разработанной zai-org. Квантизация выполнена bartowski с использованием llama.cpp b6115 и метода imatrix. Модель предназначена для генерации текста и локального запуска через LM Studio, llama.cpp и другие проекты на базе llama.cpp. Доступны варианты с разными уровнями сжатия: от Q8_0 размером около 381 ГБ до IQ1_S размером около 80 ГБ. В README наиболее рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS; более компактные варианты Q3, Q2 и IQ2 обеспечивают экономию памяти ценой снижения качества, а IQ1 характеризуются крайне низким качеством. Все файлы разделены на части. Сильная сторона набора — широкий выбор квантизаций для подбора баланса между качеством и требованиями к памяти, включая варианты, ориентированные на CPU и Apple Silicon. Ограничения — очень большой размер даже у наиболее сжатых файлов, отсутствие в README сведений об архитектуре исходной модели, числе параметров, поддерживаемых языках, модальностях, размере контекста и формате промпта. Лицензия в предоставленных данных не указана.

Zamba2-2.7B-Instruct-v2 — диалоговая языковая модель Zyphra, дообученная на базе Zyphra/Zamba2-2.7B с помощью SFT и DPO на наборах инструкций, диалогов, рассуждений, математики и предпочтений. Она предназначена для генерации ответов и следования текстовым инструкциям в чат-сценариях. Модель использует гибридную плотную архитектуру: слои Mamba2 чередуются с общими слоями внимания Transformer, дополненными LoRA-проекциями. В карточке указано 2,66 млрд параметров, тогда как метаданные каталога сообщают 5,7 млрд; контекст составляет до 4096 токенов. Модель работает с текстом и выдаёт текст. Разработчик заявляет о низкой задержке и меньшем расходе памяти по сравнению с сопоставимыми Transformer-моделями; для ускоренного запуска рекомендуются ядра Mamba2, поскольку без них задержка и расход памяти заметно возрастают. Модель опубликована под лицензией Apache-2.0. В README приведены результаты на ряде тестов, но они не гарантируют качество для конкретных запросов; сведения о поддерживаемых языках не приведены.

A3ON-1B-i1-GGUF — это GGUF-квантизация базовой модели A3ON-1B, разработанной Kaiiddo и подготовленной к распространению пользователем mradermacher. Модель предназначена для генерации текста и помощи в программировании; в метаданных указана поддержка английского языка. Формат GGUF рассчитан на локальный запуск в совместимом программном обеспечении. Модель имеет размер 1 млрд параметров, однако сведения об архитектуре, длине контекста и поддерживаемых модальностях в README не приведены. Доступны многочисленные варианты квантизации, включая IQ- и Q-семейства, размером примерно от 0,5 до 1,1 ГБ. В README отмечается, что IQ-квантизации часто обеспечивают лучшее качество при сопоставимом размере; среди вариантов отдельно рекомендуются i1-Q4_K_M и i1-Q4_K_S, а i1-Q6_K по качеству практически соответствует статической Q6_K. Более агрессивные варианты могут заметно снижать качество. Лицензия модели — CC BY 4.0. README не содержит подробных результатов тестирования, поэтому её преимущества и ограничения следует оценивать с учётом выбранного уровня квантизации и конкретного сценария использования.

AlloyingotneoyPercival_01-7B — объединённая модель для генерации текста на базе архитектуры Mistral, созданная Maxime Labonne методом SLERP из nlpguy/AlloyIngotNeoY и AurelPx/Percival_01-7b-slerp. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалоговых сценариев. Веса опубликованы в формате Safetensors; лицензия — Apache-2.0.

Aurora-Borealis-LLaMa-70B — экспериментальная объединённая языковая модель от автора Tarek07, созданная с помощью mergekit из нескольких моделей семейства LLaMa. В README описан метод слияния DARE TIES с градиентной настройкой влияния компонентов; базой указана TareksLab/MO-MODEL6-V0.1-LLaMa-70B. Архитектура — плотная авторегрессионная LLaMaForCausalLM, размер — 69,5 млрд параметров, контекст — до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Автор описывает её как эксперимент со слиянием специализированных моделей; README рекомендует температуру 1,0, Min P 0,02 и запускать квантованные варианты не ниже Q5. Доступны веса safetensors. Лицензия — llama3.3.

BerryBase — языковая модель на 7,1 млрд параметров, созданная автором репозитория путём слияния maywell/Qwen2-7B-Multilingual-RP и Weyaxi/Einstein-v7-Qwen2-7B с помощью LazyMergekit и метода SLERP. Она основана на архитектуре Qwen2 и предназначена для генерации текста в диалоговом формате, включая ответы на вопросы. Указанный родительский чекпойнт — maywell/Qwen2-7B-Multilingual-RP; конфигурация слияния также включает слои второй модели. Модель принимает текст и генерирует текст. Нативная длина контекста составляет 32 768 токенов; веса опубликованы в формате Safetensors и имеют тип bfloat16. Языковая основа — мультиязычная модель Qwen2, однако конкретный перечень поддерживаемых языков для BerryBase в карточке не приведён. Карточка не содержит оценок качества или подробных ограничений применения. Лицензия в предоставленных данных не указана, поэтому условия использования следует проверить на странице репозитория и у базовых моделей.

Bielik-11B-v3.0-Instruct-heretic-MPOA — разговорная текстовая модель на 11 млрд параметров, опубликованная gepardzik и основанная на дообученной SpeakLeash и ACK Cyfronet AGH модели Bielik-11B-v3.0-Instruct. Это плотная причинная декодерная модель архитектуры Llama, предназначенная для диалогов, ответов на вопросы и выполнения инструкций. Поддерживает многоязычную генерацию текста; исходная модель обучалась на 32 европейских языках с особым акцентом на польский. Контекст — до 32 768 токенов. В README приведено сравнение с исходной моделью: KL-дивергенция 0,0356 и 5 отказов из 100 против 36 у оригинала. Это указывает на заметное изменение поведения и меньше отказов, но не подтверждает точность или безопасность ответов. README исходной модели предупреждает, что она может выдавать фактические ошибки, предвзятый, оскорбительный или откровенный контент и не имеет встроенных механизмов модерации; эти ограничения следует учитывать и для производной модели. Репозиторий указывает лицензию Apache 2.0; в README исходной модели также упомянуты условия использования.

Blur-7B-slerp-v0.1 — языковая модель для генерации текста, созданная объединением OpenPipe/mistral-ft-optimized-1218 и mlabonne/Marcoro14-7B-slerp методом SLERP с помощью LazyMergekit. Модель построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров. Она предназначена для генерации текста и общих языковых задач. Контекстное окно составляет 32 768 токенов. В README приведены результаты Open LLM Leaderboard, включая оценки по AI2 Reasoning Challenge и HellaSwag. Модель распространяется по лицензии Apache-2.0. README и метаданные не уточняют поддерживаемые естественные языки или ограничения модели.

MaziyarPanahi/calme-2.3-llama3-70b-GGUF — это набор файлов модели в формате GGUF для модели calme-2.3-llama3-70b, разработанный и квантованный MaziyarPanahi. Модель предназначена для генерации текста и запуска в локальных приложениях и библиотеках, поддерживающих GGUF. В репозитории доступны варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит. Из идентификатора и тегов следует, что исходная модель основана на архитектуре Llama 3 и имеет размер 70 млрд параметров; точные сведения о модальностях, языках и размере контекста в README не указаны. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другими инструментами, что позволяет использовать модель с GPU-ускорением и через совместимые API. Сильные стороны модели — широкий выбор уровней квантования и совместимость с экосистемой локального запуска GGUF. Более низкая разрядность может уменьшить требования к памяти, но потенциально снижает точность по сравнению с полноразмерной версией; конкретные компромиссы для каждого варианта не приведены. Лицензия в README не указана, поэтому условия использования необходимо уточнять в источнике исходной модели и сопутствующих файлах.

Capybara Tess Yi 34B 200K DARE Ties GGUF — это квантизированная языковая модель для генерации текста, созданная на основе модели brucethemoose Capybara Tess Yi 34B 200K DARE Ties. Исходную модель разработал brucethemoose, а преобразование в формат GGUF выполнил TheBloke. Модель относится к семейству Yi и предназначена для текстового взаимодействия, генерации ответов и других сценариев, поддерживаемых системами text-generation. Модель имеет размер 34B параметров и рассчитана на работу с текстом; в карточке указан английский язык. Файлы представлены в формате GGUF, поддерживаемом llama.cpp и рядом совместимых приложений и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другие инструменты для CPU- и GPU-инференса. Доступны варианты с различными уровнями квантизации от 2 до 8 бит, что позволяет выбирать между требованиями к памяти, скоростью и качеством. В README приведён шаблон запросов Orca-Vicuna с секциями SYSTEM, USER и ASSISTANT. К сильным сторонам относятся большой размер модели, возможность локального запуска и широкий выбор уровней квантизации. Ограничения включают зависимость качества и скорости от выбранной квантизации и аппаратной конфигурации; точные показатели производительности, перечень поддерживаемых языков помимо английского и фактический размер контекстного окна в README не указаны. Модель распространяется по лицензии yi-license; в метаданных она обозначена как other, а полный текст лицензии доступен по ссылке на лицензию Yi-34B.

djinn-7b — языковая модель на базе Mistral, созданная mayacinka объединением моделей paulml/DPOB-INMTOB-7B и bardsai/jaskier-7b-dpo-v6.1 методом SLERP с помощью LazyMergekit. Это плотная авторегрессионная модель с 7,1 млрд параметров, рассчитанная на генерацию текста; заявленная длина контекста — 32 768 токенов. Модель подходит для генерации ответов и текста, а также для общих задач понимания языка и рассуждений. В README приведены результаты Open LLM Leaderboard и AutoEval, включая оценки по MMLU, TruthfulQA и GSM8K, но сведения о языках обучения и целевых сценариях не приведены. Модель распространяется в формате safetensors.

Weyaxi/Einstein-v6.1-LLama3-8B-Instruct-Ties — языковая модель, созданная Weyaxi слиянием TIES через mergekit. В качестве основы использована meta-llama/Meta-Llama-3-8B; в слияние также вошли Weyaxi/Einstein-v6.1-Llama3-8B и meta-llama/Meta-Llama-3-8B-Instruct. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 7,5 млрд параметров и контекстом до 8192 токенов. Она предназначена для генерации текста и диалоговых ответов. Карточка не приводит отдельные оценки качества или подробности об ограничениях; лицензия указана как other.

MaziyarPanahi/Experiment26Yam_ShadowCalme — объединённая модель для генерации текста, созданная на основе automerger/Experiment26Yam-7B и automerger/ShadowCalme-7B. Это плотная архитектура Mistral с 7,1 млрд параметров, предназначенная для генерации текста и имеющая контекстное окно до 32 768 токенов. Модель подходит для генерации продолжений текста и ответов на текстовые запросы. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. README и метаданные не уточняют языковую специализацию модели или дополнительные ограничения.

Experiment26Yamshadow_Experiment24Shadow — объединённая модель для генерации текста, созданная MaziyarPanahi слиянием automerger/Experiment26Yamshadow-7B и automerger/Experiment24Shadow-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров. Модель предназначена для генерации текста по текстовому запросу. Контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате Safetensors, лицензия — Apache-2.0.

Experiment28M7_PasticheAlloyingotneoy — слитая модель для генерации текста, созданная объединением моделей automerger/Experiment28M7-7B и automerger/PasticheAlloyingotneoy-7B. Она построена на плотной архитектуре Mistral с классом MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов. Контекст достигает 32 768 токенов. Репозиторий содержит веса в формате Safetensors. Модель опубликована под лицензией Apache-2.0.

Experiment28T3q_Experiment29Multi_verse_model — объединённая языковая модель MaziyarPanahi на архитектуре Mistral с плотной архитектурой и 7,1 млрд параметров. Она создана слиянием automerger/Experiment28T3q-7B и automerger/Experiment29Multi_verse_model-7B. Модель предназначена для генерации текста и рассчитана на контекст до 32 768 токенов. В карточке указана лицензия Apache-2.0. Сведения о специализированных сценариях, обучающих данных и языках модели не приводятся.

FableOpus-9B-Delta-GGUF — это набор GGUF-квантизаций модели FableOpus-9B-Delta, разработанной bingleai и преобразованной в GGUF пользователем mradermacher. Модель относится к семейству Qwen и связана с тегами qwen3.5, fable-5, claude-opus, distillation и merge. В метаданных указан английский язык и библиотека Transformers. Основное назначение модели — локальный запуск в совместимых средах, поддерживающих формат GGUF. Доступны варианты с разным уровнем квантизации: от Q2_K размером около 3,9 ГБ до Q8_0 размером около 9,6 ГБ, а также версия f16 размером около 18 ГБ. В README также представлены мультимодальные дополнения mmproj-Q8_0 и mmproj-f16, однако конкретные поддерживаемые типы входных данных и возможности мультимодальной работы не описаны. Сильная сторона набора — широкий выбор компромиссов между размером, скоростью и качеством: Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант с очень хорошим качеством, а Q8_0 — как вариант с лучшим качеством среди указанных. Ограничения включают отсутствие описания архитектуры, числа параметров, контекстного окна, точных возможностей и результатов оценки; weighted/imatrix-квантизации на момент публикации не заявлены. Модель и квантизации распространяются по лицензии Apache-2.0.

Falcon3-7B-Instruct-GGUF — это GGUF-квантизированная версия инструкционной языковой модели Falcon3-7B-Instruct, разработанной Technology Innovation Institute (TII) и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и диалогового взаимодействия, включая запуск локально через llama.cpp и совместимые приложения, например LM Studio. Для общения используется шаблон с ролями system, user и assistant. Модель поддерживает английский, французский, испанский и португальский языки. Базовый размер составляет 7 млрд параметров; доступны варианты от F16 до Q2_K, поэтому можно выбирать баланс между качеством, скоростью и требованиями к памяти. Квантизация выполнена с использованием imatrix, а в README отдельно отмечено исправление tokenizer. Варианты Q5 и Q6 характеризуются как высококачественные, Q4_K_M — как стандартный вариант для большинства сценариев, а более компактные Q3 и Q2 имеют заметно более низкое качество. Основные ограничения связаны с потерями качества при низких уровнях квантизации и отсутствием в README данных о размере контекста, архитектурных деталях, производительности и специализированных возможностях. Модель распространяется по лицензии Falcon LLM License; условия доступны по ссылке, указанной в карточке модели.

Falcon-7B-Instruct — языковая модель TII на основе Falcon-7B, дообученная на смеси диалоговых и инструкционных данных. Это плотная авторегрессионная модель с архитектурой decoder-only; в карточке указаны 7 млрд параметров, тогда как метаданные каталога сообщают 10,9 млрд. В архитектуре используются rotary positional embeddings, multi-query attention и FlashAttention, рассчитанные на эффективный инференс. Модель предназначена для диалогов и выполнения инструкций на естественном языке: она может отвечать на вопросы, помогать с текстовыми задачами и вести беседу. Основной язык обучения — английский; карточка также указывает французский, но предупреждает, что качество на языках помимо английского может быть слабым. Для быстрого инференса README рекомендует не менее 16 ГБ памяти; для использования с Transformers требуется PyTorch 2.0. TII сообщает о дообучении на смеси instruct/chat-датасетов объёмом около 250 млн токенов. Модель может воспроизводить стереотипы и смещения из веб-данных, поэтому перед применением в производстве ответы следует оценивать и дополнять защитными мерами. Лицензия — Apache 2.0.

Franken-Merlinite-Maid 7B Slerp — слитая языковая модель, созданная ND911 с помощью mergekit методом SLERP из ND911/Fraken-Maid-TW-K-Slerp и ibm/merlinite-7b. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM, примерно 7,1 млрд параметров и контекстом до 8192 токенов. Она предназначена для генерации текста. Репозиторий содержит веса в формате safetensors; метаданные указывают библиотеку Transformers. Лицензия в предоставленных данных не указана.

G9v3-3B-i1-GGUF — набор квантованных файлов модели G9v3-3B, разработанной ai9stars и преобразованной в формат GGUF пользователем mradermacher. Модель предназначена для генерации текста, задач с длинным контекстом и сценариев с вызовом инструментов. Заявлены поддержка английского и китайского языков, а также совместимость с экосистемой Transformers и llama-подобной архитектурой; точная архитектура и размер контекста в README не раскрыты. Базовый размер модели — 3B параметров. Репозиторий содержит множество вариантов квантования, включая IQ- и Q-серии, с размером файлов примерно от 0,9 до 2,6 ГБ. Варианты различаются балансом между размером, скоростью и качеством: README рекомендует i1-Q4_K_M как быстрый вариант, а i1-Q4_K_S описывает как оптимальный по соотношению размера, скорости и качества. Более агрессивные варианты квантования экономят память, но могут заметно снижать качество; для части низкокачественных вариантов это отмечено прямо. Доступны также imatrix-файлы для самостоятельного создания квантов. Модель ориентирована на локальный запуск при ограниченных ресурсах, однако конкретные требования к оборудованию, показатели качества, поддерживаемые шаблоны диалогов и детальные возможности tool-calling не указаны. Лицензия базовой модели — Apache-2.0.