I.14Автоматизация процессов и AI-агенты

unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF — это GGUF-версия модели DeepSeek-R1-Distill-Qwen-14B, подготовленная Unsloth на основе модели DeepSeek. Модель предназначена для генерации текста и диалоговых сценариев, включая задачи, требующие пошагового рассуждения; в README приведён пример решения простой арифметической задачи. Для запуска рекомендуется использовать llama.cpp с соответствующим чат-шаблоном и специальными токенами <｜User｜> и <｜Assistant｜>. Модель относится к семейству Qwen и имеет размер 14B параметров. Доступны варианты с разными уровнями GGUF-квантизации, включая Q4_K_M и Q8_0; конкретные характеристики зависят от выбранного файла. Указан английский язык. README не содержит данных о длине контекста, мультимодальности, точной архитектуре или результатах тестирования, поэтому эти свойства нельзя надёжно оценить. К сильным сторонам относятся возможность локального запуска через llama.cpp и ускорение обработки за счёт GPU-offload; для работы требуется достаточно производительное оборудование, а качество и потребление памяти зависят от квантизации. Модель распространяется по лицензии Apache-2.0.

DeepSeek-R1-Q4_K_M-layers — пакет для распределённого запуска квантованной модели DeepSeek-R1 в формате GGUF, подготовленный Mesh LLM на основе unsloth/DeepSeek-R1-GGUF. Веса разделены на артефакты по слоям, чтобы объединять память и вычислительные ресурсы нескольких машин в локальном кластере Mesh LLM. Модель предназначена для локального приватного чат-инференса и сценариев, где полный файл модели не помещается на одном компьютере. Её можно подключать через совместимый с OpenAI API Mesh LLM, включая интерфейс `/v1/chat/completions`. Задача из метаданных — генерация текста; семейство — DeepSeek, вариант квантования — Q4_K_M. Пакет рассчитан на распределённый запуск и не является самостоятельной архитектурой модели. README отсылает к карточке исходной модели за сведениями об архитектуре, шаблоне чата, рекомендациях по генерации и лицензии; условия использования в доступных данных не приведены.

DeepSeek-V4-Flash-0731 REAP 80G — производная версия DeepSeek-V4-Flash-0731 от автора репозитория, сокращённая методом REAP и упакованная в формат GGUF с разной точностью квантования. В каждом MoE-блоке сохранено 160 из 256 маршрутизируемых экспертов; эксперты используют IQ2XXS, проекции W2 — Q4_K, а внимание, общие эксперты и выходная голова — Q8_0. Модель предназначена для генерации текста в диалоговом режиме и локального запуска на совместимом с DeepSeek-V4 оборудовании и ПО. Карточка описывает её как экспериментальную производную, не являющуюся официальным выпуском DeepSeek. Ожидаемые сценарии включают диалог, программирование, рассуждения, работу с инструментами и длинным контекстом, но качество этих возможностей следует оценивать на своих задачах. Для запуска требуются среды, понимающие компоненты DeepSeek-V4; обычные загрузчики GGUF могут не поддерживать используемые компоненты MXFP4, sparse attention, токенизатор и DSpark MTP. Оценки паритета с исходной моделью по бенчмаркам нет. Модель основана на deepseek-ai/DeepSeek-V4-Flash-0731; метаданные указывают языки en и zh, лицензию MIT и задачу text-generation. README предупреждает, что важность экспертов оценивалась по близкому раннему чекпойнту, а не по версии 0731; удалено 37,5% маршрутизируемых экспертов. Совместимость MTP-блоков требует отдельной проверки.

Это модель DistilBERT, дообученная TextAttack для классификации пар предложений на наборе данных MRPC из бенчмарка GLUE. Она предназначена для определения того, выражают ли два предложения одно и то же значение. Модель использует архитектуру DistilBertForSequenceClassification и принимает текстовые пары с максимальной длиной последовательности 512 токенов; при дообучении использовалось ограничение 256 токенов. Модель обучалась пять эпох с размером батча 32 и скоростью обучения 2e-05; лучшая точность на оценочной выборке составила около 85,8%. Это специализированный классификатор для задачи распознавания перефразирования, а не универсальная языковая модель. В карточке указана точность на eval-наборе, поэтому качество на других данных может отличаться. Лицензия в предоставленных материалах не указана.

embeddinggemma-pt-br — португалоязычная модель для создания текстовых эмбеддингов, подготовленная tardellirs на основе google/embeddinggemma-300m. Это плотный текстовый энкодер семейства Gemma 3 с 151,8 млн параметров, библиотекой Sentence Transformers и контекстом до 2048 токенов. Размер словаря сокращён до 64 тыс. наиболее частотных португальских токенов: матрица токенов была усечена, а энкодер и слои pooling и Dense сохранены без изменений. По README, вариант сохраняет 98,8% результата исходной модели на MTEB(por), при этом обучение не проводилось. Модель предназначена для получения эмбеддингов и семантического сравнения португалоязычных текстов, например для поиска, классификации, кластеризации и ранжирования. Для других языков качество может быть низким из-за возврата к побайтовой токенизации. Указанная лицензия — Gemma; применяйте модель в соответствии с её условиями.

EXAONE-4.0-1.2B-GGUF — квантизированная версия языковой модели EXAONE 4.0, разработанной LG AI Research. Модель предназначена для генерации текста, диалоговых приложений, локального запуска и on-device-сценариев, где важны компактный размер и умеренное потребление ресурсов. Серия EXAONE 4.0 поддерживает режимы рассуждения и без рассуждения, использование инструментов агентами и многоязычную работу на английском, корейском и испанском языках. Вариант содержит около 1,07 млрд параметров без учёта эмбеддингов, 30 слоёв и механизм внимания GQA с 32 головами и 8 KV-головами. Размер словаря составляет 102 400 токенов, заявленная длина контекста — 65 536 токенов. Модель распространяется в формате GGUF с вариантами квантизации Q8_0, Q6_K, Q5_K_M, Q4_K_M и IQ4_XS, а также с весами BF16; поддерживается llama.cpp. Сильными сторонами являются компактность, возможность локального и встраиваемого использования, поддержка трёх языков, длинного контекста и двух режимов генерации. Ограничением по сравнению с 32B-версией серии является существенно меньший размер, поэтому модель может уступать ей в качестве, глубине рассуждений и сложных профессиональных задачах; конкретные результаты тестирования для данного варианта в предоставленных данных не приведены. Лицензия указана как EXAONE, с типом other и отдельным файлом LICENSE; точные условия использования в README не раскрыты.

MaziyarPanahi/Experiment28M7_T3qm7xpT3q — объединённая языковая модель семейства Mistral с архитектурой MistralForCausalLM и примерно 7,1 млрд параметров. Она создана путём слияния моделей automerger/Experiment28M7-7B и automerger/T3qm7xpT3q-7B. Модель предназначена для генерации текста и диалоговых ответов. Она принимает текст и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Данные карточки не уточняют целевые языки и специализированные предметные области.

Experiment28M7_T3qm7xStrangemerges_32 — объединённая языковая модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием automerger/Experiment28M7-7B и automerger/T3qm7xStrangemerges_32-7B и предназначена для генерации текста. Модель принимает текст и выдаёт текст, поддерживая контекст до 32 768 токенов. Модель доступна в формате safetensors по лицензии Apache-2.0. Карточка не описывает специальные предметные области или подтверждённые языковые специализации; качество и ограничения конкретных сценариев применения не приведены.

Falcon-40B-Instruct — разработанная TII модель генерации текста с архитектурой Falcon: плотный декодерный трансформер, дообученный для диалогов и выполнения инструкций на основе Falcon-40B. В README указано 40 млрд параметров, тогда как метаданные Hugging Face сообщают 65 млрд; точный размер по этим источникам расходится. Архитектура использует rotary position embeddings, multiquery attention и FlashAttention. Модель предназначена для чат-ботов, ответов на вопросы и генерации текста по инструкциям. Она обучалась преимущественно на английских данных, а также поддерживает французский; дообучение проводилось на смеси Baize с небольшой долей RefinedWeb. Для быстрого запуска авторы указывают потребность примерно в 85–100 ГБ памяти. Модель доступна по лицензии Apache 2.0. Модель может воспроизводить предубеждения из веб-данных и слабо переносить навыки на языки, отличные от английского. Авторы рекомендуют оценивать риски и применять защитные механизмы перед использованием в производстве; instruct-версия может быть не лучшей отправной точкой для дальнейшего дообучения.

flammenai/flammen14-mistral-7B — языковая модель на архитектуре Mistral, созданная методом слияния SLERP двух предварительно обученных моделей: nbeerbower/Suppe-v1-7B и nbeerbower/Flammen-Bruphin. Разработчик объединил веса с помощью mergekit; модель содержит 7,1 млрд параметров и рассчитана на генерацию текста с контекстом до 32 768 токенов. Модель предназначена для задач генерации текста. Веса опубликованы в формате safetensors и доступны по лицензии Apache-2.0. В карточке не приведены сведения о целевых языках, специализированной области применения или результатах оценки качества.

ApolloRaines/Gemma-4-12B-it-Jbliterated-v2 — языковая модель для генерации текста, разработанная ApolloRaines на основе Gemma-4-12B-it-Jbliterated. Это объединённая самодостаточная версия с целевым дообучением (SFT), направленным на снижение скрытых циклов самопроверки безопасности в reasoning-трассах и повышение вероятности завершённого ответа. Модель предназначена для диалоговых сценариев, генерации текста и локального запуска через Transformers или в формате GGUF. Модель имеет размер 12B параметров, использует архитектуру Gemma 4 Unified и тип данных bfloat16. Поддерживаемый язык, указанный в карточке, — английский. Модель работает с текстовой модальностью; размер контекстного окна в README не указан. Доступны варианты GGUF с квантованием Q8_0 и Q4_K_M, причём Q4_K_M рекомендован для видеокарт с 8–12 ГБ памяти. Для GGUF требуется свежая версия llama.cpp из ветки master. По сравнению с исходной версией v1 модель снизила частоту safety-классификации в reasoning-канале с 81,2% до 35,0%, а долю полных ответов повысила с 61,2% до 78,8% на указанном наборе из 80 тестовых запросов. При этом показатель MMLU снизился на 0,88 процентного пункта — до 77,72%. Ограничения включают сохраняющиеся спирали без ответа примерно на 21% самых сложных запросов, оценивание на одном обучающем запуске и возможное неполное выявление замаскированной safety-классификации используемым регулярным выражением. Использование модели регулируется Gemma Terms of Use, то есть лицензией Google для Gemma.

principled-intelligence выпустила текстовый вариант Gemma 4 E2B-it: из исходного мультимодального чекпойнта удалены веса энкодеров изображений и аудио, а языковая модель сохранена. Это плотная модель семейства Gemma 4 с 1,6 млрд параметров по метаданным и контекстом до 131 072 токенов. Модель предназначена для извлечения признаков из текста и может использоваться как текстовая часть исходной модели для генерации. По README, удаление энкодеров уменьшает размер чекпойнта и пиковое потребление видеопамяти примерно на 9% по сравнению с исходным Gemma 4 E2B-it; сохранены исходные токенизатор и шаблон чата. Для загрузки автор проверял Transformers, а другие движки инференса пока не поддерживаются. Лицензия — Apache-2.0.

GPT4 Alpaca LoRA 30B HF — версия модели Chansung GPT4 Alpaca 30B, подготовленная TheBloke с объединёнными весами LoRA и исходной Llama 30B. Это плотная авторегрессионная модель семейства Llama с 32,3 млрд параметров, предназначенная для диалогов и выполнения инструкций на естественном языке. Модель принимает текст и генерирует текст; в карточке указан английский язык, а максимальный контекст составляет 2048 токенов. Модель подходит для чат-ботов, ответов на инструкции и текстовых запросов. README указывает, что для запуска требуется не менее 60 ГБ видеопамяти. Репозиторий содержит веса PyTorch; лицензия обозначена как other, поэтому условия использования следует проверять в исходных лицензиях Llama и обученной модели.

WorldSim-Opus-3.6-35B-A3B-GGUF — это квантизированная версия языковой модели Gryphe/WorldSim-Opus-3.6-35B-A3B, подготовленная пользователем bartowski в формате GGUF с использованием llama.cpp и imatrix-квантизации. Модель ориентирована на диалоговое общение, работу по инструкциям, ролевые сценарии, reasoning и творческое письмо. Обучение или дообучение связано с датасетом Gryphe/Opus-4.6-Reasoning-24k. Модель основана на архитектуре Qwen3.6 MoE; в названии указана конфигурация 35B-A3B. README сообщает о поддержке английского языка и текстовом формате взаимодействия через ChatML с шаблоном, включающим секцию рассуждений <think>. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ; размеры файлов составляют примерно от 16,9 до 69,38 ГБ. Более качественные варианты требуют больше памяти, а младшие квантизации предназначены для ограниченных ресурсов и могут снижать качество. Модель можно запускать локально через llama.cpp, Ramalama, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Контекстное окно, точные требования к оперативной или видеопамяти, мультимодальные возможности и результаты бенчмарков в README не указаны. Репозиторий распространяется по лицензии Apache-2.0.

GujaratiSBERT-STS — модель семейства SBERT на архитектуре BERT, разработанная L3Cube-Pune в рамках проекта MahaNLP. Она дообучена на датасете STS от базовой модели l3cube-pune/gujarati-sentence-bert-nli и предназначена для оценки семантического сходства предложений на гуджарати. Модель преобразует текстовые предложения в векторные представления, которые можно использовать для поиска семантически близких предложений и сравнения текстов. Модель содержит 264,8 млн параметров, принимает текстовые входы с контекстом до 512 токенов и распространяется в формате PyTorch. Лицензия — CC BY 4.0. В README также упоминается отдельная мультиязычная версия для основных индийских языков и межъязыкового сходства; это описание относится к данной модели только как контекст проекта.

zhongweixie выпустил Qwen3-4B с обучением In-Place Test-Time Training (In-Place TTT), ориентированную на работу с длинным контекстом. Это плотная авторегрессионная языковая модель на архитектуре Qwen3ForCausalLM; в карточке указана связь с Qwen/Qwen2.5-4B и обучение на 1250 шагах с контекстом 64 тыс. токенов. Модель предназначена для генерации текста и диалоговых сценариев, в том числе задач, где нужно учитывать длинные входные последовательности. README заявляет более эффективную работу с длинным контекстом и адаптацию во время обработки входа, однако не приводит количественных результатов или сравнительных оценок. Репозиторий содержит веса safetensors для Transformers, размер модели по метаданным — 3,7 млрд параметров. Лицензия Apache-2.0.

oshizo/japanese-e5-mistral-7b_slerp — объединённая модель эмбеддингов, созданная oshizo слиянием intfloat/e5-mistral-7b-instruct и stabilityai/japanese-stablelm-base-gamma-7b методом SLERP. Она предназначена для получения качественных представлений предложений и сравнения их семантического сходства, в частности для работы с японским текстом. Архитектура — плотная Mistral с 7,1 млрд параметров; максимальная длина контекста по метаданным — 32 768 токенов. Репозиторий содержит веса в формате safetensors, лицензия — MIT. Модель подходит для поиска по смыслу, ранжирования и сопоставления японских предложений или текстовых фрагментов через их эмбеддинги. В README автор указывает, что при слиянии использовал больше японской базовой модели в слоях ближе к входу, чтобы сохранить понимание японского языка, и больше E5 в слоях ближе к выходу для получения эмбеддингов. Для примеров использования README направляет к карточке E5-Mistral-7B-Instruct и оценочному ноутбуку JapaneseEmbeddingEval.

K2 Think V2 — открытая модель с 70,5 млрд параметров для рассуждений, разработанная командой IFM и основанная на дообученной модели K2-V2-Instruct. Это плотная авторегрессионная модель семейства Llama для генерации текста и диалогов, с акцентом на сложные математические задачи и сильными результатами на конкурсных бенчмарках. Модель также показывает результаты на задачах программирования. В README указана длина контекста 131 072 токена с расширением вдвое через YaRN; метаданные каталога указывают нативный контекст 262 144 токена. Шаблон чата унаследован от K2-V2-Instruct, по умолчанию задан высокий уровень рассуждений; режимы low и medium доступны, но не проверялись. Карточка сообщает о хороших агрегированных результатах оценки безопасности, однако отмечает потенциал улучшения в обработке чувствительных персональных данных. Лицензия Apache-2.0; условия использования запрещают незаконное и вредоносное применение и предоставляют модель без гарантий.

Модель snunlp/KLUE-SRoBERTa-Large-SNUExtended-klueNLI-klueSTS — Sentence Transformer на архитектуре RoBERTa, обученный для работы с корейскими предложениями на наборе klue/klue. Она преобразует текст в плотные эмбеддинги размерности 1024 и оценивает сходство предложений по косинусному сходству; максимальная длина последовательности составляет 512 токенов. Модель подходит для семантического поиска, поиска перефразирований, кластеризации и классификации текста на основе эмбеддингов. В README приведён результат Spearman 0,8422 на оценке семантического сходства sts-dev. Модель принимает текст и выдаёт векторные представления; основным языком является корейский. Контекст ограничен 512 токенами, поэтому длинные тексты требуют разбиения. Лицензия в предоставленных источниках не указана.

KoSimCSE-roberta — модель эмбеддингов корейских предложений из проекта Korean-Sentence-Embedding. Она построена на архитектуре RoBERTa и предназначена для преобразования текста в векторы, пригодные для сравнения смысловой близости предложений и поиска семантически похожих текстов. Модель содержит 137,8 млн параметров и принимает последовательности длиной до 514 токенов. В карточке проекта приведены результаты оценки на тесте семантического сходства текстов, а также отмечена возможность использовать предварительно обученные модели для инференса и обучения. Модель ориентирована на корейский язык. Метаданные указывают форматы PyTorch и Safetensors; сведения о лицензии в доступных данных отсутствуют.

Kotoba-Whisper-v2.1 — японская модель автоматического распознавания речи, разработанная Kotoba Technologies совместно с Асахи Усио. Она основана на kotoba-tech/kotoba-whisper-v2.0 и использует архитектуру Whisper с 905,2 млн параметров. Встроенный конвейер дополнительно расставляет пунктуацию в распознанном тексте. Модель предназначена для транскрибации японской речи. В README приведены оценки CER на японских тестовых наборах CommonVoice 8, JSUT Basic 5000 и ReazonSpeech; для нормализованного CER результаты совпадают с версией v2.0, поскольку добавленная пунктуация при нормализации удаляется. Модель доступна через Transformers версии 4.39 и новее. Лицензия — Apache-2.0.

Xenova/LaBSE — версия модели LaBSE из репозитория sentence-transformers/LaBSE, адаптированная в формате ONNX для совместимости с библиотекой Transformers.js. Репозиторий содержит ONNX-веса и предназначен для запуска модели в JavaScript-средах, включая веб-приложения. Модель рассчитана на извлечение признаков: она преобразует входной текст в векторное представление, которое может использоваться в задачах семантического поиска, сравнения текстов, кластеризации и других сценариях работы с эмбеддингами. В README не указаны архитектура, размер модели, поддерживаемые языки, максимальная длина контекста, точные модальности, ограничения качества или лицензия, поэтому эти характеристики нельзя достоверно оценить по предоставленным данным.

Gemma-2-Ataraxy-v4c-9B_fixed — диалоговая языковая модель на архитектуре Gemma 2, созданная автором lemon07r с помощью слияния предварительно обученных моделей lemon07r/Gemma-2-Ataraxy-v3b-9B и zelk12/recoilme-gemma-2-Ataraxy-9B-v0.1-t0.25. Слияние выполнено методом SLERP; модель содержит 9 млрд параметров, веса доступны в формате safetensors, а нативная длина контекста составляет 8192 токена. Модель предназначена для генерации текста в диалоге: она подходит для ответов на запросы, выполнения инструкций и творческой генерации. В README приведены результаты отдельных оценок Open LLM Leaderboard, включая IFEval и BBH. Веса опубликованы с лицензией Gemma.

LeoScorpius-7B-Chat-DPO — чат-модель, дообученная viethq188 методом DPO на датасете Nectar на базе viethq188/LeoScorpius-7B. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и рассчитана на генерацию текста; для форматирования запросов в карточке предложен шаблон Alpaca с полями system, Instruction и Response. Модель подходит для диалогов и ответов на инструкции в формате текстового чата. Заявленные в карточке позиции в рейтингах относятся к обновлению от 14 декабря 2023 года. Контекстное окно составляет 32 768 токенов. Модель распространяется по лицензии Apache-2.0.

mradermacher/lexi-coder-v4.4-GGUF — это набор статически квантизованных файлов модели lexi-coder-v4.4, базовая версия которой разработана reallexi. Репозиторий подготовлен mradermacher в формате GGUF для запуска модели в совместимом локальном программном обеспечении. В метаданных указан английский язык, а название указывает на специализацию исходной модели в задачах, связанных с кодом, однако подробное описание её назначения в README отсутствует. Доступны варианты от Q2_K до Q8_0, IQ4_XS и f16 объёмом примерно от 1,8 до 7,8 ГБ. Более сильное квантование обычно уменьшает требования к памяти, но может снижать качество; README отдельно отмечает Q4_K_S и Q4_K_M как быстрые рекомендуемые варианты, Q6_K как вариант очень хорошего качества, а Q8_0 — как быстрый вариант наилучшего качества. Архитектура, число параметров, размер контекста, поддерживаемые модальности и точные языковые возможности не указаны. Модель подходит для локального инференса в приложениях, поддерживающих GGUF, при выборе компромисса между размером файла, скоростью и качеством. Для weighted/imatrix-квантований приведена отдельная коллекция. Лицензия обозначена как other с условием inherits-base-model-and-dataset-terms, поэтому использование должно соответствовать лицензиям базовой модели и использованных наборов данных.

TheTravellingEngineer выпустил диалоговую модель на архитектуре Llama 2 с 6,6 млрд параметров. Она получена дообучением методом SFT базовой модели meta-llama/Llama-2-7b-chat-hf на датасете OpenAssistant Guanaco; репозиторий содержит объединённые веса fp16. Модель предназначена для генерации ответов в диалоге и выполнения текстовых инструкций в сценариях чат-ботов и помощников. Карточка указывает английский язык и контекстное окно 4096 токенов. Использование регулируется ограничениями исходной лицензии Llama 2; гарантий качества нет.

Llama-3-15B-Instruct-zeroed — объединённая языковая модель, опубликованная elinas и созданная с помощью mergekit на основе meta-llama/Meta-Llama-3-8B-Instruct. При слиянии применён метод passthrough с обнулением слоёв o_proj и down_proj; автор сообщает о снижении perplexity по сравнению с похожими моделями на 15 млрд параметров. Модель предназначена для диалоговой генерации текста и ассистентских ответов. Она имеет плотную архитектуру LlamaForCausalLM, содержит 14,5 млрд параметров и поддерживает контекст до 8192 токенов. В репозитории указаны формат safetensors и лицензия Llama 3. Карточка также ссылается на дообученную версию elinas/Llama-3-15B-Instruct-zeroed-ft, про которую автор сообщает об улучшении производительности.

bartowski/Llama-3.1-8B-Open-SFT-GGUF — набор GGUF-квантизаций языковой модели Llama-3.1-8B-Open-SFT, разработанной prithivMLmods и дообученной на датасете O1-OPEN/OpenO1-SFT. Квантизации созданы bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, ответов на вопросы, решения математических задач и сценариев, связанных с Chain-of-Thought. Указана поддержка английского языка. Модель содержит 8 млрд параметров и работает в текстовой модальности. Доступны варианты от F16 до низкобитных Q2 и IQ-квантизаций размером примерно от 3,66 до 16,07 ГБ, что позволяет выбирать баланс между качеством, требованиями к памяти и скоростью инференса. Для локального запуска рекомендуется использовать LM Studio; также заявлена совместимость с text-generation-inference и Ollama. Формат промптов основан на шаблоне Llama 3.1. Размер контекста в README не указан. Сильными сторонами являются широкий выбор квантизаций, возможность локального запуска и специализация на вопросно-ответных и математических задачах. Более компактные варианты экономят память, но обеспечивают более низкое качество; наиболее качественными названы F16, Q8_0 и варианты Q5–Q6. Модель распространяется по лицензии creativeml-openrail-m.

bunnycore/Llama-3.1-8B-TitanFusion-v2 — объединённая авторегрессионная языковая модель семейства Llama 3.1, созданная с помощью mergekit методом Model Stock. В качестве базовой использована bunnycore/LLama-3.1-8B-HyperNova-abliteration; в слияние также вошли TitanFusion, Matrix, Ultra-Instruct и MagpieLM-8B-Chat-v0.1. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и представлена в формате safetensors с точностью bfloat16. Заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций и создание ответов. В карточке не приведены результаты оценки качества или подробные сведения о поддерживаемых языках. Лицензия в предоставленных данных не указана.

Llama-3.1-Swallow-8B-OpenMath-FT-i1-GGUF — это квантизированная модель в формате GGUF, созданная на основе Nextorage/Llama-3.1-Swallow-8B-OpenMath-FT. Квантизацию выполнил mradermacher; исходная модель дообучена на наборе данных nvidia/OpenMathInstruct-1. Модель предназначена для генерации текста, решения математических задач, работы с математическими инструкциями и генерации кода. В метаданных указана поддержка японского языка. Архитектура относится к семейству Llama 3.1, размер базовой модели — 8 миллиардов параметров; модель работает только с текстом, а сведения о максимальном контексте в README отсутствуют. Предоставляется набор вариантов квантизации с разным соотношением размера, скорости и качества, включая IQ- и Q-форматы. В README отмечены Q4_K_M как быстрый рекомендуемый вариант и Q4_K_S как оптимальный по размеру, скорости и качеству, тогда как некоторые низкобитные варианты имеют заметные ограничения по качеству. Лицензия указана как llama3.