I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельarcee-ai/saul-mistral-v0.1-7b-slerp — объединённая модель от Arcee AI, созданная методом SLERP с помощью mergekit из Equall/Saul-Base и mistralai/Mistral-7B-Instruct-v0.1. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалоговых ответов. Базовая модель Mistral-7B-Instruct-v0.1 ориентирована на выполнение инструкций; слияние добавляет компоненты Saul-Base. Модель принимает текст и выдаёт текст, поддерживает чат-сценарии и имеет контекст до 32 768 токенов. В карточке не заявлены конкретные языки или специализированные предметные области, поэтому её следует считать моделью общего назначения. Репозиторий распространяется в формате safetensors по лицензии Apache-2.0.
Tiiny/SmallThinker-4BA0.6B-Instruct-GGUF — GGUF-квантизированная версия SmallThinker-4BA0.6B-Instruct, семейства нативных для устройств языковых моделей с архитектурой Mixture-of-Experts. Модель разработана совместно IPADS и School of AI Шанхайского университета Цзяотун при участии Zenergize AI и предназначена для локального запуска на устройствах с ограниченными ресурсами, обеспечивая приватность и низкую задержку без обращения к облачным сервисам. Модель рассчитана на генерацию текста и работу в инструкционном режиме: ответы на вопросы, рассуждения, решение математических задач, следование инструкциям и генерацию кода. Она обучалась преимущественно на английском языке, поэтому качество для других языков не заявлено. Контекстное окно составляет 32K токенов. Архитектура включает 4B общих параметров и 0,6B активируемых параметров, 32 слоя, 12 attention heads, механизм GQA, активацию ReGLU, 32 эксперта MoE и выбор 4 экспертов на токен. К сильным сторонам относятся высокая эффективность для компактной модели, возможность локального развертывания, поддержка llama.cpp для обычных GGUF-файлов и PowerInfer для файлов с суффиксом .powerinfer.gguf, использующих разреженные операторы. Ограничения включают преимущественно англоязычное обучение, возможные фактические ошибки, предвзятость и устаревание ответов, а также зависимость специальных .powerinfer.gguf-файлов от фреймворка PowerInfer. Модель распространяется по лицензии Apache-2.0.
Lucyfer1718/Spartan_v3 — языковая модель на архитектуре Llama, созданная слиянием методом SLERP моделей meta-llama/Meta-Llama-3-8B и meta-llama/Llama-3.1-8B-Instruct. Веса представлены в формате safetensors; модель содержит около 7,5 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов, включая ответы на запросы и использование интерфейса вызова инструментов. Она работает с текстом; карточка указывает базовые многоязычные модели, но конкретный перечень языков для этого слияния не приведён. Условия лицензирования в предоставленных данных не описаны.
Ternary-Bonsai-8B-gguf — языковая модель для генерации текста, разработанная Prism ML на базе Qwen3-8B. Она предназначена для локального и встраиваемого запуска, включая сценарии on-device, через llama.cpp и совместимые инструменты. Модель распространяется в формате GGUF Q2_0 и ориентирована на задачи диалога, ответов на вопросы, рассуждений и программной интеграции. Модель содержит 8,19 млрд параметров, включая около 6,95 млрд параметров без учёта эмбеддингов, и использует 36 декодерных Transformer-блоков с GQA, архитектурой SwiGLU, RoPE и RMSNorm. Длина контекста составляет 65 536 токенов, размер словаря — 151 936 токенов. Веса квантизованы до троичного представления {-1, 0, +1} с групповым масштабированием FP16; размер рекомендуемого файла Q2_0 составляет около 2,03 GiB, или 2,18 GB. Главное преимущество модели — существенное снижение требований к памяти: примерно в 7,5 раза по сравнению с FP16 при заявленном сохранении информации для троичных весов. По приведённым бенчмаркам она показывает высокое качество среди моделей сопоставимого размера, но уступает исходной Qwen3-8B по среднему результату. Для работы с форматом Q2_0 требуется специальная ветка Prism ML для llama.cpp, поскольку поддержка этого формата ещё не включена в основную ветку проекта. Языки, на которых модель оптимизирована, в README не указаны. Лицензия — Apache 2.0.
TurdusBeagle-7B — языковая модель на архитектуре Mistral, созданная объединением udkai/Turdus и mlabonne/NeuralBeagle14-7B методом SLERP с помощью LazyMergekit. Модель содержит 7,1 млрд параметров и принимает текст для генерации текста; контекст — до 32 768 токенов. Модель подходит для диалогов, следования инструкциям, рассуждений и творческой генерации текста — эти возможности указаны для базовой NeuralBeagle14-7B. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0.
YamshadowInex12_Percival_01Yamshadow — слитая модель семейства Mistral, созданная на основе automerger/YamshadowInex12-7B и automerger/Percival_01Yamshadow-7B. Она предназначена для генерации текста по текстовым запросам и работает с контекстом до 32 768 токенов. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и распространяется в формате Safetensors по лицензии Apache 2.0.
1.5-Pints-16K-v0.1 — языковая модель команды Pints AI для диалогов и генерации текста. Она основана на авторегрессионной архитектуре Llama 2, содержит около 1,57 млрд параметров и использует токенизатор Mistral. Модель обучалась на 57 млрд токенов отобранных данных, затем была дообучена на инструкциях и оптимизирована по предпочтениям; в карточке указано окно контекста 16 384 токена и формат весов safetensors. Модель предназначена для создания компактного помощника, ответов на запросы и рассуждений, а также для запуска нескольких экземпляров в агентных сценариях. Авторы рекомендуют использовать поиск с генерацией (RAG) для ответов, требующих точных фактических знаний, и дообучать модель для специализированных областей. В сравнении, приведённом в карточке, результат MTBench для версии 16K — 3,40; это ограничивает ожидания от её качества по сравнению с более крупными моделями. Указана лицензия MIT.
AlphaAI-1.5B-Thought — языковая модель Alpha AI, дообученная на базе Qwen2.5-1.5B для пошаговых рассуждений и решения структурированных задач. Это плотная авторегрессионная модель семейства Qwen2 с 1,5 млрд параметров; заявленная длина контекста — 131 072 токена. Модель принимает текст и генерирует текст, а карточка указывает английский язык. Модель предназначена для локального запуска и диалоговых сценариев, где полезны многошаговые выводы: разбор математических и научных задач, программирование, генерация рабочих процессов и структурированные ответы виртуальных помощников. Веса представлены в формате PyTorch/Safetensors; README также описывает вариант с 16-битной точностью и перечисляет доступные квантизованные варианты. Лицензия — Apache-2.0. Модель может наследовать предвзятости обучающих данных, а ответы для критически важных задач следует проверять; качество в конкретных предметных областях карточка не подтверждает.
SC117/Agents-A1-MTP-APEX-GGUF — сборка модели Agents-A1, подготовленная SC117 в формате GGUF с APEX-квантизацией и слоем Multi-Token Prediction (MTP). Базовая Agents-A1 разработана InternScience: это агентная MoE-модель класса 35 млрд параметров, дообученная на Qwen3.5-35B-A3B. В README также описана версия BF16 и визуальный проектор mmproj-F16 для работы с изображениями и текстом. Модель предназначена для генерации ответов и выполнения многошаговых агентных задач, включая научные рассуждения, поиск и вызов инструментов. README приводит результаты на научных и агентных бенчмарках; GGUF-файлы рассчитаны на запуск через llama.cpp, а также указаны варианты развёртывания через vLLM и SGLang. Для llama.cpp заявлена поддержка контекста до 131072 токенов, для vLLM — до 262144; MTP призван ускорять генерацию. APEX применяет смешанную точность с учётом типа тензоров, а MTP-слой сохраняется в Q8_0. Метаданные указывают форматы GGUF, BF16 и F16. Лицензия — Apache-2.0. Описания производительности и приведённые в README бенчмарки являются заявлениями авторов; качество конкретной квантизированной сборки может зависеть от выбранного файла и среды запуска.
AquilaChat2-7B-16K — диалоговая языковая модель из серии Aquila2, разработанной BAAI. Она предназначена для ведения чата и генерации текста, в том числе работы с длинными диалогами и текстами благодаря контексту до 16 384 токенов. Модель имеет плотную архитектуру AquilaForCausalLM и около 6,9 млрд параметров. В карточке заявлена поддержка английского и китайского языков; модель распространяется в формате PyTorch. Лицензия указана как other, поэтому условия использования следует уточнять в материалах разработчика.
A.X 4.0 Light — компактная языковая модель для генерации текста, разработанная SKT AI Model Lab и выпущенная SK Telecom в составе семейства A.X 4.0. Модель создана на базе открытой архитектуры Qwen2.5 и дополнительно обучена на крупномасштабных корейских данных. Она поддерживает английский и корейский языки и предназначена для диалоговых приложений, обработки текста, корпоративных сценариев и локального развёртывания. Модель содержит около 7 млрд параметров и поддерживает контекст до 16 384 токенов. Она ориентирована прежде всего на понимание корейского языка, корейской культуры и контекста; в заявленных тестах показывает 64,15 балла на KMMLU, 68,05 на CLIcK и 79,50 на Ko-MT-Bench. На английском языке модель также пригодна для общих задач, однако результаты на MMLU ниже, чем у некоторых сопоставимых моделей того же класса. К сильным сторонам относятся сравнительно небольшой размер, пригодность для эффективного развёртывания, хорошее следование инструкциям и повышенная производительность в корейскоязычных задачах. Ограничениями являются меньший контекст и более низкие показатели по ряду общих, математических и кодовых тестов по сравнению с крупными моделями семейства A.X 4.0. Модель распространяется по лицензии Apache-2.0.
Breeze-7B-Instruct-v1_0 — диалоговая языковая модель MediaTek Research для ответов на вопросы, многоходового чата, суммаризации и сценариев RAG. Это дообученная версия Breeze-7B-Base-v1_0, которая, в свою очередь, основана на Mistral-7B; модель использует архитектуру Mistral с плотным декодером и содержит 7,2 млрд параметров. Модель рассчитана прежде всего на традиционный китайский язык, а также поддерживает английский. Словарь расширен с 32 тыс. до 62 тыс. токенов для лучшей поддержки традиционного китайского; в карточке заявлено ускорение инференса на этом языке. Контекст модели — 32 768 токенов по метаданным каталога; README описывает версию с контекстом 8 тыс. токенов. Эти значения различаются между источниками. Модель работает с текстом и предназначена для использования как готовый чат-ассистент. В README отмечено, что для диалогов нет специальной обработки вредоносных запросов. Модель опубликована под лицензией Apache-2.0; её качество и скорость могут зависеть от сценария и условий запуска.
T-Systems-onsite выпустила модель на основе XLM-RoBERTa для получения векторных представлений предложений на английском и немецком языках. Модель дообучена для сравнения семантической близости предложений, в том числе между языками: тексты на английском и немецком с похожим смыслом отображаются в близкие векторы. Репозиторий содержит версии весов для PyTorch, Safetensors и TensorFlow; общее число параметров — 305,2 млн, контекст — до 514 токенов. Модель предназначена для семантического поиска, оценки текстового сходства и поиска перефразирований. Её можно использовать, например, чтобы искать немецкие документы по английскому запросу или сравнивать предложения по косинусному сходству. Для работы авторы рекомендуют библиотеку Sentence Transformers. Модель дообучена на англо-немецких данных STSbenchmark с дополнительными парами предложений между языками; карточка приводит результаты оценки на английском, немецком и их межъязыковых парах. Лицензия — MIT. Модель выдаёт эмбеддинги, а не готовые текстовые ответы; качество поиска зависит от корпуса и настроек сравнения. Карточка описывает её применение прежде всего для английского и немецкого языков, поэтому не следует считать заявленное межъязыковое качество универсальным для других языковых пар.
DictaLM-3.0-24B-Thinking — открытая языковая reasoning-модель, разработанная организацией DICTA. Эта версия распространяется в формате GGUF и основана на модели DictaLM-3.0-24B-Thinking, первоначально инициализированной из Mistral-Small-3.1-24B-Base-2503. Модель содержит 24 миллиарда параметров и предназначена для генерации текста и диалогового взаимодействия. Модель обучалась на обширных корпусах текстов на иврите и английском языке и ориентирована прежде всего на задачи, требующие качественной работы с этими языками, включая ответы на вопросы, следование инструкциям, рассуждения и использование в чат-ассистентах. Перед формированием ответа она выполняет внутренний этап рассуждения в специальном блоке. Также заявлена поддержка вызова инструментов, что позволяет интегрировать модель с внешними API и сервисами. К сильным сторонам относятся специализация на иврите, открытые веса, поддержка английского языка, reasoning-возможности и доступность для локального развёртывания. Размер в 24 миллиарда параметров предъявляет существенные требования к вычислительным ресурсам. Максимальный размер контекста и точные характеристики GGUF-квантизации в представленном описании не указаны. Модель распространяется по лицензии Apache 2.0.
Zigeng/dParallel_Dream_7B_Instruct — инструктивная языковая модель семейства Dream, разработанная исследователями xML Lab Национального университета Сингапура. Она использует подход dParallel: дистилляцию с принудительным повышением уверенности токенов, предназначенную для параллельного декодирования диффузионных языковых моделей и сокращения числа шагов генерации при сохранении качества. Модель подходит для диалоговой генерации текста и задач, где важна быстрая генерация ответов; в карточке также заявлен интерфейс вызова инструментов. Модель имеет плотную архитектуру Dream, 7,1 млрд параметров и контекст до 131 072 токенов. Репозиторий содержит веса Safetensors; лицензия — MIT. README описывает ускорение на GSM8K и MBPP для dParallel, применённого к LLaDA-8B-Instruct, но не приводит отдельные показатели для этой Dream-модели.
EuroLLM-9B-Instruct — многоязычная языковая модель с 9 млрд параметров, разработанная Unbabel, Instituto Superior Técnico, Instituto de Telecomunicações, University of Edinburgh и партнёрами. Она создана на базе EuroLLM-9B и дополнительно настроена на выполнение инструкций с использованием EuroBlocks, набора данных для следования общим инструкциям и машинного перевода. Модель использует плотную архитектуру Transformer с grouped-query attention, RMSNorm, SwiGLU и RoPE; длина последовательности при обучении составляет 4096 токенов. Модель предназначена для генерации текста, диалогов, выполнения инструкций и перевода между языками. Она обучена для работы с языками ЕС и рядом дополнительных языков, включая русский, арабский, китайский, японский, корейский и хинди. Репозиторий содержит веса в формате Safetensors и использует библиотеку Transformers. Лицензия — Apache 2.0. Карточка сообщает о конкурентных результатах на многоязычных и англоязычных бенчмарках, однако модель не выравнивалась по предпочтениям людей. Она может выдавать галлюцинации, вредоносный контент и фактические ошибки.
Fialka-7B-v2 — языковая модель семейства Llama, разработанная авторами Fialka. Модель содержит 6,6 млрд параметров и предназначена для выполнения инструкций и общения на русском языке; версия 2.0 обучена на наборе инструкций. Для запросов используется формат Zephyr. Модель принимает текст и генерирует текст, поддерживает контекст длиной до 4096 токенов и распространяется в формате Safetensors. Лицензия — Apache-2.0. Авторы отмечают, что более новая версия Fialka V3 точнее генерирует русский текст; отдельные оценки качества для этой версии не приведены.
flammen6-mistral-7B — языковая модель на базе архитектуры Mistral, созданная flammenai слиянием SLERP через mergekit моделей Nous-Hermes-2-Mistral-7B-DPO и flammen5-mistral-7B. Модель содержит 7,1 млрд параметров, предназначена для генерации текста и диалогового взаимодействия по инструкциям; доступна в формате safetensors и использует библиотеку Transformers. Контекстное окно составляет 32 768 токенов. Модель подходит для чат-ботов, написания и преобразования текста, а также ответов на запросы в диалоге. В карточке не приведены сведения о специальных доменах или подтверждённых языках. Распространяется по лицензии Apache-2.0.
t-firefly/gemma4-e2b-rknn3-rk1820 — сборка Gemma 4 E2B IT для запуска на устройстве RK1820 через LlamaPi. Исходную модель разработала Google DeepMind; это компактная инструкционно настроенная мультимодальная модель семейства Gemma 4 с плотной архитектурой генерации. В репозитории указаны форматы GGUF и safetensors, а метаданные отмечают возможность диалогового взаимодействия. Модель принимает текст, изображения и аудио, а выдаёт текст. Она предназначена для диалогов, рассуждений, программирования и мультимодального анализа на устройствах и периферийных системах; заявлены контекст до 256 тысяч токенов и поддержка более 140 языков. Для запуска предлагается LlamaPi. Лицензия репозитория — Apache-2.0. Карточка описывает возможности исходной Gemma 4 E2B IT, но не приводит отдельных результатов оценки качества для сборки RK1820. Практическая применимость мультимодального ввода и заявленного контекста зависит от реализации LlamaPi и аппаратных ресурсов устройства.
GLM4.7-Distill-LFM2.5-1.2B — компактная плотная языковая модель на архитектуре Liquid AI LFM2, разработанная автором репозитория на основе LiquidAI/LFM2.5-1.2B-Instruct. Модель содержит около 1,5 млрд параметров по метаданным (в README указано 1,2 млрд) и обучена методом офлайн-дистилляции: для обучения использовались синтетические ответы GLM-4.7 и открытые наборы инструкций. Учитель не нужен при запуске, а цепочки рассуждений в модель не включены. Модель предназначена для диалогового помощника, следования инструкциям, планирования и разбиения задач, суммаризации, объяснений, лёгкой помощи с кодом и агентных сценариев, включая локальный запуск на периферийных устройствах. Заявлены контекст до 128 000 токенов и поддержка английского языка; метаданные также указывают интерфейс для вызова инструментов. Модель ориентирована на краткие ответы и совместима с Transformers и safetensors. Автор предупреждает, что модель может галлюцинировать, ошибаться в сложных логических выводах и уверенно отвечать при недостатке оснований; она не подходит для актуальных событий и критически важных медицинских, юридических или безопасностных решений без проверки. Лицензия — Apache-2.0.
Kiel-2.1-Echo — языковая модель для диалогов и выполнения инструкций, разработанная KielTech в экосистеме Kiel AI. Это плотная причинная модель семейства Llama с 3,2 млрд параметров, дообученная на базе kiel2/Kiel-2-Echo и распространяемая как самостоятельные веса Safetensors в формате FP16. Метаданные указывают контекст до 131 072 токенов. Модель предназначена для разговорных ассистентов, генерации кода, помощи с асинхронными сценариями на Python, рассуждений о программной архитектуре и решения задач из разных областей. Она принимает текстовые запросы и генерирует текст; заявленный язык — английский. В карточке заявлены высокая производительность и строгое следование инструкциям, но сравнительные оценки или результаты тестов не приведены. Указаны варианты развёртывания через Transformers, vLLM и Text Generation Inference. Лицензия в предоставленных данных не описана.
wanlige/li-14b-v0.4-slerp0.1 — объединённая модель генерации текста семейства Qwen2, созданная с помощью mergekit методом SLERP из wanlige/li-14b-v0.4 и sthenno-com/miscii-14b-0218. Модель содержит 14 млрд параметров, использует архитектуру Qwen2ForCausalLM и рассчитана на контекст до 32 768 токенов. Модель подходит для диалогов и генерации текста; в метаданных также указана поддержка интерфейса вызова инструментов. README приводит результаты оценивания на Open LLM Leaderboard, включая IFEval и BBH, но не описывает специализированные области применения или точный перечень поддерживаемых языков. Файлы представлены в формате safetensors и предназначены для использования с Transformers. Сведения о лицензии в предоставленных данных отсутствуют.
Ling-3.0-tiny-GGUF — это конвертация модели Ling-3.0-tiny в формат GGUF для запуска через llama.cpp. Базовую модель разработала команда inclusionAI, а данный вариант опубликован пользователем bloomer010. Модель предназначена для генерации текста, диалоговых сценариев и агентских задач, включая вызов инструментов и раздельный режим рассуждений. Архитектура использует mixture-of-experts: всего 7,9 млрд параметров, из которых 1,3 млрд активируются на каждом токене. Модель содержит 24 слоя, включая 18 KDA- и 6 MLA-слоёв, 128 маршрутизируемых экспертов с 8 активными экспертами на токен и одного общего эксперта. Поддерживаются Q-LoRA с рангом 256 и KV-LoRA с рангом 512, контекст до 131 072 токенов, а также режим рассуждений, включённый по умолчанию. Информация о поддерживаемых языках и мультимодальности в README не указана. Доступны варианты квантования от BF16 до сильно сжатых IQ- и Q-форматов, что позволяет выбирать между качеством и требованиями к памяти; рекомендуемый UD-Q8_K_XL обеспечивает качество, близкое к полной точности. Модель протестирована на CPU и CUDA, включая RTX 4070 и RTX 3060. Ограничения включают возможное преждевременное завершение ответа внутри блока рассуждений и проблемы с агентским использованием и tool calling в llama.cpp без поддержки двух указанных изменений. Для MXFP4_MOE рекомендуется GPU с нативной поддержкой MXFP4, иначе возможна более низкая скорость. Распространяется по лицензии MIT.
TartuNLP и TalTechNLP разработали Llama 3.1 EstLLM 70B 0826 Instruct — плотную авторегрессионную языковую модель с инструкционной настройкой для диалогов и генерации текста. Модель продолжает предобучение Llama 3.1 70B на примерно 60 млрд токенов, затем прошла supervised fine-tuning и оптимизацию предпочтений DPO. Она содержит 69,5 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; нативное окно контекста — 131 072 токена. Модель рассчитана прежде всего на эстонский и английский языки. Она подходит для диалоговых ответов, следования инструкциям и генерации текста; в карточке также приведена оценка перевода с английского на эстонский. В опубликованных результатах она сравнивается на задачах проверки инструкций, языковой компетенции, знаний и рассуждений. Лицензия — Llama 3.1 Community License Agreement.
VAGO solutions Llama-3.1-SauerkrautLM-70b-Instruct — плотная языковая модель семейства Llama 3.1 с 69,5 млрд параметров, созданная VAGO solutions дообучением Meta-Llama-3.1-70B-Instruct. Для Spectrum Fine-Tuning обучали 15% слоёв на немецко-английском наборе Sauerkraut Mix v2; авторы сообщают об улучшениях за счёт межъязыкового переноса также для арабского, итальянского, французского, испанского, нидерландского и португальского языков. Модель предназначена для диалогов и генерации текста на этих языках, включая задачи с длинным контекстом до 131 072 токенов и сценарии с интерфейсом вызова инструментов. В карточке заявлено улучшение многоязычных навыков и приведены названия наборов для оценки, включая MMLU-Multilingual, но численные результаты не указаны. Репозиторий содержит веса в формате Safetensors. Лицензия — llama3.1. Авторы предупреждают, что модель может выдавать неподходящий или некорректный контент; результаты бенчмарков и стабильность поведения следует проверять для конкретных задач.
allenai/Llama-3.1-Tulu-3-8B-DPO — англоязычная диалоговая модель AI2 из семейства Tülu 3, дообученная методом DPO на основе allenai/Llama-3.1-Tulu-3-8B-SFT. Это плотная авторегрессионная модель архитектуры Llama с 7,5 млрд параметров и контекстом до 131 072 токенов, предназначенная для следования инструкциям и общения.
LLaMa-3.1-Zeroed-70-30-13B — объединённая модель семейства Llama, созданная сообществом mergekit-community с помощью mergekit. В линейном слиянии объединены LLaMa-3.1-Zeroed-13B с весом 0,7 и LLaMa-3.1-Instruct-Zeroed-13B с весом 0,3. Модель содержит 12,5 млрд параметров, работает через Transformers и распространяется в формате safetensors. Модель предназначена для генерации текста и диалогов по запросам и инструкциям. Она принимает текст и поддерживает контекст до 131 072 токенов; метаданные также указывают интерфейс вызова инструментов. Карточка не описывает отдельные специализированные области применения или языки. Лицензия в предоставленных данных не указана. Практическое качество, ограничения по языкам и надёжность вызова инструментов README не характеризует.
Hugging-quants/Llama-3.2-3B-Instruct-Q8_0-GGUF — квантованная версия инструкционно дообученной языковой модели Llama 3.2 3B Instruct, разработанной Meta и представленной в формате GGUF для использования с llama.cpp и совместимыми средствами инференса. Модель предназначена для генерации текста, диалоговых сценариев и выполнения инструкций на локальном или ограниченном по ресурсам оборудовании. Модель содержит около 3 миллиардов параметров и использует 8-битное квантование Q8_0, что снижает требования к памяти по сравнению с полноразмерными весами при сохранении близкого к исходной модели качества. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модальность — текстовая; размер контекста в README не указан. К сильным сторонам относятся инструкционная настройка, относительно небольшой размер, широкая заявленная языковая поддержка и удобный для локального запуска формат GGUF. Ограничения включают возможную потерю качества из-за квантования, меньшие возможности по сравнению с более крупными моделями и отсутствие информации о конкретных показателях производительности и максимальном контексте. Модель распространяется по Llama 3.2 Community License от Meta. При распространении материалов или производных продуктов требуется соблюдать условия лицензии, включая указание «Built with Llama», сохранение лицензионного уведомления и Acceptable Use Policy; для продуктов с более чем 700 миллионами месячных активных пользователей предусмотрены дополнительные условия.
Mistral-10.7B-Instruct-v0.2 — плотная языковая модель семейства Mistral с примерно 10,6 млрд параметров, созданная увеличением глубины модели mistralai/Mistral-7B-Instruct-v0.2. Она предназначена для диалоговой генерации текста и может использоваться как замена исходной 7-миллиардной версии или как основа для дальнейшего дообучения. Модель принимает текст и генерирует текст; заявленное контекстное окно составляет 32 768 токенов. Модель опубликована под лицензией Apache 2.0. В карточке не описаны языковое покрытие и результаты сравнительных оценок, поэтому её качество для конкретных языков и задач следует проверять отдельно.
Mistral-11B-OmniMix-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная MaziyarPanahi слиянием mistralai/Mistral-7B-Instruct-v0.2 и Undi95/Mistral-11B-OmniMix методом SLERP через MergeKit. Модель использует архитектуру MistralForCausalLM с плотной трансформерной сетью, содержит 7,1 млрд параметров и принимает текст для генерации ответов и диалогов. Контекст — до 32 768 токенов. Модель подходит для чат-общения, выполнения инструкций и генерации текста. В репозитории веса представлены в формате safetensors; лицензия — Apache-2.0. README не приводит отдельной оценки качества или подробностей о языковом покрытии и ограничениях, поэтому специфические преимущества и недостатки слияния не описаны.