I.3Извлечение и структурирование данных

LFM2-2.6B-GGUF — языковая модель семейства LFM2, разработанная компанией Liquid AI. Она предназначена для генерации текста и прежде всего ориентирована на edge AI и локальное выполнение на устройствах с ограниченными ресурсами. Модель опубликована в формате GGUF, совместимом с llama.cpp, что упрощает запуск и развёртывание на конечных устройствах. Заявленные сильные стороны модели — сочетание качества, скорости работы и эффективности использования памяти. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. В предоставленной карточке не указаны точная архитектура, размер контекста, модальности помимо текста и конкретные варианты квантования, поэтому эти характеристики нельзя достоверно описать. Модель распространяется по лицензии lfm1.0; условия следует уточнять в файле LICENSE.

mlx-community/LFM2.5-2.6B-bf16 — конверсия модели LiquidAI/LFM2.5-2.6B в формат MLX, выполненная сообществом mlx-community. Это компактная плотная языковая модель семейства LFM2.5 на 2,6 млрд параметров для генерации текста и диалогового общения; она рассчитана на локальный запуск на устройствах Apple с MLX. Модель поддерживает 17 языков, включая русский, и имеет контекстное окно до 128 000 токенов. Модель подходит для диалоговых помощников, генерации текста и длинноконтекстных сценариев. В метаданных базовой модели также отмечены вызов инструментов, RAG и агентные задачи. Репозиторий содержит веса safetensors в формате MLX. Лицензия указана как other; README рекомендует обратиться к карточке исходной модели за дополнительными сведениями о модели.

SC117/LFM2.5-2.6B-Uncensored — производная текстовая модель сообщества на основе LiquidAI/LFM2.5-2.6B. Автор карточки описывает её как компактную модель для локального запуска и агентных сценариев; поведенческое редактирование abliterix Trial 65 снижает частоту отказов, сохраняя заявленные возможности следования инструкциям, работы с инструментами и многошаговых задач. Официальные бенчмарки для этой версии не проводились. Модель имеет плотную гибридную архитектуру LFM2: 30 слоёв, включая блоки коротких свёрток и GQA. Размер — 2,6 млрд параметров, контекст — 128 000 токенов. Поставляется в BF16 в формате safetensors и использует шаблон диалога на основе ChatML с маркером рассуждения <think>. В карточке не перечислены поддерживаемые естественные языки. Изменённое поведение означает более низкий порог отказа на запросы, поэтому модель может выдавать ответы, от которых отказывается базовая версия; её соответствие требованиям конкретного применения нужно оценивать отдельно. Это не официальный релиз Liquid AI. Указана лицензия LFM Open License v1.0, совпадающая с лицензией базовой модели; перед использованием следует учитывать её условия.

LiquidAI/LFM2.5-8B-A1B-MLX-bf16 — версия модели Liquid AI, преобразованная из LiquidAI/LFM2.5-8B-A1B в формат MLX с помощью mlx-lm 0.31.3. Это языковая модель с архитектурой MoE для генерации текста и диалогов; веса представлены в bf16 без квантизации. В модели 1,6 млрд параметров, контекстное окно — до 128 000 токенов. Модель рассчитана на многоязычные диалоги и поддерживает вызов функций. В метаданных указаны английский, арабский, китайский, французский, немецкий, японский, корейский, испанский и португальский языки. Формат MLX предназначен для запуска в экосистеме MLX; README рекомендует использовать библиотеку mlx-lm и оригинальную карточку для сведений о настройках генерации. Лицензия обозначена как other; конкретные условия следует проверять в карточке репозитория.

LFM2.5-Embedding-350M-fp16 — мультиязычная модель-энкодер Liquid AI, представленная в формате MLX для запуска на Apple Silicon. Это плотный двунаправленный би-энкодер семейства LFM2.5 с вектором CLS размерности 1024; число параметров по метаданным — 444,6 млн, веса fp16 занимают 709 МБ. Модель кодирует запросы и документы в векторы для семантического и межъязыкового поиска. Для кодирования используются префиксы «query: » и «document: », а сходство оценивается косинусной мерой. Карточка приводит результаты на английском подмножестве NanoBEIR и сообщает о высокой скорости кодирования на тестовой системе Apple M-series. Для корректной работы в MLX репозиторий включает специализированный загрузчик: обычные причинные загрузчики LFM2 дают неверные эмбеддинги для этой двунаправленной архитектуры. Базовая модель поддерживает английский, испанский, немецкий, французский, итальянский, португальский, арабский, шведский, норвежский, японский и корейский языки. Лицензия указана как other; условия следует сверять с карточкой модели и лицензией базовой модели.

Это квантованная 8-битная версия mxfp8 модели LFM2.5-Embedding-350M от Liquid AI, подготовленная для запуска на Apple Silicon через MLX. Модель представляет собой плотный двунаправленный биэнкодер семейства LFM2.5 с вектором CLS размерности 1024 и предназначена для мультиязычного поиска: отдельно кодирует запросы и документы, после чего их векторы сравнивают по косинусному сходству. При кодировании нужны префиксы «query: » для запросов и «document: » для документов. В репозитории указаны 366 МБ весов и контекст до 128 000 токенов. В тесте на четырёх англоязычных наборах NanoBEIR версия mxfp8 сохранила среднее значение NDCG@10 на уровне 100,7% от fp16; это ограниченная проверка английского поиска, а не оценка всей мультиязычной версии. Для инференса поставлен специализированный MLX-загрузчик, учитывающий двунаправленное внимание и CLS-пулинг. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой базовой модели и файлами лицензии репозитория.

LIMI-Air — агентная языковая модель, разработанная GAIR и дообученная на базе zai-org/GLM-4.5-Air. Она предназначена для диалоговых сценариев, рассуждений и работы с инструментами в агентных приложениях; сообщения подаются в формате OpenAI chat, инструменты можно передавать отдельно. По README, базовая модель содержит около 107 млрд параметров, тогда как метаданные репозитория указывают 8,5 млрд параметров и архитектуру семейства GLM-4 MoE; заявленный контекст составляет 131 072 токена. Карточка описывает обучение на компактных курированных агентных данных GAIR/LIMI и приводит оценку на AgencyBench. Модель рассчитана на более быстрый и менее затратный запуск по сравнению с крупными вариантами LIMI, с возможным снижением качества на сложных задачах. Проверка проводилась на курированных агентных задачах, поэтому результаты могут не переноситься на другие сценарии. Для запуска в README приведены Transformers, vLLM и SGLang. Лицензия репозитория — Apache-2.0.

A1Speeder/llama-3.1-8b-finetuned — дообученная языковая модель A1Speeder на базе unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров; для обучения использовались Unsloth и библиотека TRL из Hugging Face. Модель предназначена для генерации текста в диалоговом формате и поддерживает интерфейс вызова инструментов. В метаданных указано контекстное окно до 131 072 токенов, а карточка указывает английский язык. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

Llama-3.1-8B-Magpie-Align-SFT-v0.1 — языковая модель, созданная проектом Magpie-Align путём дообучения Meta Llama 3.1 8B. Для обучения использованы наборы Magpie-Pro-MT-300K-v0.1 и Magpie-Reasoning-150K; модель предназначена для диалогов и выполнения инструкций, включая задачи рассуждения. Она основана на плотной архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и имеет контекст длиной до 131 072 токенов. Модель работает с текстом и рассчитана прежде всего на английский язык. Авторы сообщают о результатах, сопоставимых с Llama-3.1-8B-Instruct при обучении только методом SFT; среди приведённых оценок — 24,79 LC и 25,05 WR на Alpaca Eval 2, а также 21,0 на Arena Hard. Для лучшего качества рекомендуется официальный шаблон чата Llama 3. Ограничения включают унаследованные от базовой модели возможные ошибки и ненадёжность ответов; результаты зависят от формулировки запроса. Лицензия — Meta Llama 3.1 Community License для модели; README также указывает на условия Meta Llama 3 Community License для данных.

bunnycore/LLama-3.1-8b-Ultra-Max-Pro — объединённая разговорная языковая модель на архитектуре Llama 3.1, созданная с помощью mergekit методом DARE TIES. В качестве основы использована vicgalle/Configurable-Llama-3.1-8B-Instruct; в объединение также вошли Artificium, Lexi Uncensored V2, Ultra-Instruct, Hermes 3 и LLama-3.1-Hyper-Stock. Модель содержит 7,5 млрд параметров, рассчитана на генерацию текста и поддерживает контекст до 131 072 токенов. Модель предназначена для диалогов и генерации ответов на инструкции. Указанная в карточке комбинация моделей объединяет разговорную настройку, следование инструкциям и другие языковые возможности, однако README не приводит результатов оценок или конкретных гарантий качества. Модель работает с текстом и опубликована в формате safetensors для библиотеки Transformers. В метаданных лицензия не указана.

Llama-3.1-Tulu-3-8B-SFT-GGUF — это GGUF-квантизированная версия языковой модели Llama-3.1-Tulu-3-8B-SFT, разработанной Allen Institute for AI (Ai2). Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; в качестве данных для квантизации применялся специализированный набор. Модель предназначена для генерации текста и диалоговых сценариев, включая запуск локально через llama.cpp или LM Studio. Указан формат промпта с ролями system, user и assistant. Модель содержит 8 миллиардов параметров и работает с текстом на английском языке. Доступны варианты от исходных весов F16 размером около 16,07 ГБ до различных квантизаций Q8, Q6, Q5, Q4, Q3 и Q2 размером примерно от 3,7 ГБ до 8,54 ГБ. Более крупные варианты сохраняют более высокое качество, а компактные требуют меньше оперативной памяти, но могут заметно уступать в качестве. Для большинства сценариев автор рекомендует варианты Q4_K_M, Q5 и Q6; некоторые варианты оптимизированы для ARM или AVX и имеют ограничения совместимости. Модель поддерживает только текстовую модальность; сведения о длине контекста в README не указаны. Лицензия обозначена как llama3.1. README не содержит подробных результатов тестирования, поэтому точные сильные и слабые стороны базовой модели, кроме компромисса между размером квантизации и качеством, оценить нельзя.

voidful опубликовал в формате Transformers разговорную языковую модель семейства Llama 3.2 с плотной архитектурой LlamaForCausalLM и 7,5 млрд параметров. Метаданные указывают на генерацию текста, чат и интерфейс вызова инструментов; модель принимает текст и генерирует текст. Заявленная длина контекста составляет 131 072 токена. Карточка README называет модель «Patched LLama 3.2 8B from LLaMA 3.2 11B Model» и упоминает изменение весов, но не объясняет метод и результат патчинга. Языки и лицензия в карточке не заполнены. Перед использованием следует учитывать, что README не описывает качество, обучающие данные, ограничения и условия лицензии; оценить их по представленным сведениям нельзя.

Llama-3-Typhoon-1.5X-70B-instruct — диалоговая языковая модель команды SCB 10X Typhoon, созданная на основе Llama 3 70B Instruct и Typhoon 1.5 70B с помощью редактирования модели методом task arithmetic. Это плотная decoder-only модель архитектуры Llama примерно на 69,5 млрд параметров; она принимает и генерирует текст, использует шаблон чата Llama 3 и поддерживает контекст до 8192 токенов. Модель рассчитана прежде всего на тайский язык, также поддерживает английский. Её предназначение — следование инструкциям, рассуждения, ответы на вопросы и применение в RAG-сценариях и генерации с заданными ограничениями. В карточке приведены результаты тестов ThaiExam, MMLU, MT-Bench и IFEval, включая оценки на тайском и английском. Разработчики отмечают экспериментальный характер модели и рекомендуют отдельно оценивать её риски для конкретного применения. Модель распространяется по лицензии Llama 3 Community License; для работы указана Transformers версии 4.38.0 или новее.

llm-jp-3.1-13b-instruct4 — языковая модель семейства LLM-jp, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это плотная Transformer-модель на архитектуре Llama с 13,2 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие. Контекстное окно составляет 4096 токенов; модель распространяется в формате safetensors для Transformers. Модель прошла дополнительное инструкционное предобучение, контролируемое дообучение и выравнивание методом Direct Preference Optimization. Она предназначена для выполнения инструкций, ответов на вопросы и диалога на японском и английском языках. Разработчики сообщают об оценке на японском и английском MT Bench и о проверке безопасности японских ответов. Модель находится на раннем этапе исследований и разработок, и её ответы не гарантированно соответствуют намерениям пользователя или требованиям безопасности. Для запуска README указывает PyTorch, Transformers, Tokenizers, Accelerate и Flash Attention. Лицензия — Apache-2.0.

llm-jp-3-980m-instruct2 — инструктивная языковая модель из серии LLM-jp-3, разработанной Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это плотный авторегрессионный трансформер семейства Llama с 980 млн параметров, дообученный методом supervised fine-tuning на инструкционных данных. Модель принимает текст и генерирует текст; карточка описывает японские и английские данные, а контекст составляет 4096 токенов. Модель предназначена для диалогов и выполнения текстовых инструкций, включая ответы на вопросы и формирование ответов в заданном формате. Предварительное обучение проводилось на смеси корпусов, включающей японскую Википедию, Common Crawl и документы PDF; для последующего обучения использовались, среди прочего, вручную подготовленные японские инструкционные наборы. Разработчики предупреждают, что модель находится на ранней стадии исследований и разработок и не была настроена для надёжного следования человеческим намерениям и требованиям безопасности. Модель распространяется под лицензией Apache-2.0.

Marcoroni-7b-DPO-Merge — языковая модель на 7,1 млрд параметров, опубликованная nfaheem. Это плотная авторегрессионная модель семейства Mistral, объединённая методом TIES с помощью mergekit на основе madatnlp/marcoroni-7b-v3-safetensor, fblgit/UNA-TheBeagle-7b-v1 и udkai/Turdus; веса сохранены в формате safetensors с точностью float16. Модель предназначена для генерации текста и общих языковых задач, включая ответы на вопросы, рассуждения и решение задач. В README приведены результаты на ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K, а также заявлено первое место в рейтинге Hugging Face среди моделей около 13 млрд параметров по состоянию на 15 января 2024 года. Нативное контекстное окно составляет 32 768 токенов. README и метаданные не указывают поддерживаемые естественные языки. Модель распространяется по лицензии Apache-2.0; рейтинги из README относятся к указанным оценкам и не гарантируют качество на любых пользовательских задачах.

megatron_2.1_MoE_2x7B — языковая модель архитектуры Mixtral с разреженной смесью экспертов (MoE), представленная пользователем Eurdem. Она предназначена для генерации текста и может применяться в диалоговых сценариях, ответах на вопросы и других задачах, решаемых текстовой языковой моделью. В карточке приведены результаты Open LLM Leaderboard: среднее значение 76,64, AI2 Reasoning Challenge — 72,95 и HellaSwag — 88,94. Модель содержит 7,1 млрд параметров, принимает контекст длиной до 32 768 токенов и распространяется в формате safetensors. Репозиторий помечен тегом merge, однако README и предоставленные сведения не называют исходные модели, вошедшие в слияние. Лицензия — Apache-2.0. Языки и дополнительные ограничения в доступных материалах не описаны.

Meta-Llama-3-8B-Instruct-FP8 — это квантизированная версия текстовой инструкционной модели Meta-Llama-3-8B-Instruct, разработанная Neural Magic. Модель предназначена для коммерческого и исследовательского использования в англоязычных ассистентских чат-сценариях: диалогов, ответов на вопросы и генерации текста. Она принимает текст и генерирует текст, поддерживает контекст до 4096 токенов и рассчитана на эффективный инференс с использованием vLLM версии 0.5.0 и выше. В основе модели лежит архитектура Meta-Llama-3 с 8 млрд параметров. Веса и активации линейных операторов внутри transformer-блоков квантизированы в формат FP8, что примерно на 50% снижает требования к дисковому пространству и GPU-памяти по сравнению с 16-битным представлением. Квантизация выполнена с помощью AutoFP8 на 512 последовательностях из UltraChat; применяется симметричная по-тензорная схема масштабирования. Средний результат на OpenLLM Leaderboard v1 составил 68,22 против 68,71 у неквантизированной версии, что указывает на небольшое снижение качества при существенной экономии ресурсов. Модель оптимизирована для англоязычных задач и не предназначена для использования на других языках согласно заявленным ограничениям. Она доступна по лицензии Llama 3, условия которой определяются лицензией Meta. Использование должно соответствовать применимым законам и требованиям лицензии.

MiMo-V2.6-Flash-RL-JANG2L — это опубликованная OsaurusAI квантованная версия Xiaomi MiMo-V2.6-Flash-RL для запуска через MLX на Apple Silicon. В ней применена смешанная низкоразрядная квантовка JANG: основные экспертные проекции хранятся в 2 битах, часть проекций — в 3 битах, а защищённые ранние слои сохранены в исходном формате MXFP4. Заявлено около 2,73 эффективного бита на параметр; текстовые веса занимают около 95,87 GiB. Модель содержит 12 млрд параметров и поддерживает контекст до 1 048 576 токенов. Модель предназначена для диалоговой генерации текста, рассуждений и вызова инструментов, а также для ответов по изображениям и видео. В README описаны рабочие текстовые и инструментальные диалоги и ответы на изображения и видео в интеграционной сборке Osaurus. Качество квантованной модели не эквивалентно исходной: авторы отмечают искажения на чувствительных позициях и ограниченность проведённых тестов; результаты тестов не являются оценкой на официальных бенчмарках. Репозиторий сохраняет веса обработки изображений, видео и аудио, однако распознавание аудио в тестах Osaurus не прошло квалификацию, а аудио-вывод и совместное понимание синхронизированных аудио и видео не подтверждены. Для запуска требуется Osaurus версии 0.25.13 или новее; модель использует формат MLX и safetensors. Лицензия — MIT.

MiniCPM5-2B-8bit — языковая модель для генерации текста, разработанная openbmb и преобразованная сообществом mlx-community в формат MLX. Исходная модель — openbmb/MiniCPM5-2B; конвертация выполнена с помощью mlx-lm версии 0.31.3 с 8-битным квантованием и размером группы 64. Модель предназначена для текстовой генерации на устройствах и периферийных системах, включая локальные сценарии и edge AI. Заявлены поддержка английского и китайского языков, работы с длинным контекстом и вызова инструментов. Она может использоваться через библиотеку mlx-lm для загрузки модели, применения chat-шаблона и генерации ответов. Точные сведения об архитектуре, размере контекста и дополнительных возможностях в README не указаны. К сильным сторонам относятся компактный размер исходной модели 2B, 8-битное представление для более эффективного локального запуска и интеграция с MLX. Ограничения включают отсутствие заявленной мультимодальности и неполные сведения о производительности, точной длине контекста и качестве на отдельных задачах. Модель распространяется по лицензии Apache-2.0.

MiniCPM5-2B-heretic-GGUF — это набор GGUF-квантизованных версий языковой модели MiniCPM5-2B-heretic, разработанной Dingdust и опубликованной в формате GGUF пользователем mradermacher. Модель предназначена для генерации текста, работы с длинным контекстом, вызова инструментов и локального запуска на устройствах с ограниченными ресурсами. В карточке указана поддержка английского и китайского языков. Модель относится к семейству MiniCPM и имеет размер 2 млрд параметров. Доступны варианты квантования от Q2_K до Q8_0, IQ4_XS и f16; размер файлов составляет примерно от 1,1 до 5,1 ГБ. Варианты Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как обеспечивающий очень хорошее качество, а Q8_0 — как вариант с наилучшим качеством среди перечисленных. Архитектура и максимальная длина контекста в README не указаны; по тегам модель ориентирована на текстовые сценарии, edge AI и on-device deployment. К сильным сторонам относятся компактный размер, возможность локального запуска и выбор между несколькими уровнями компромисса по скорости, качеству и потреблению памяти. Ограничения связаны с потерями качества при низком квантовании, а также с отсутствием в карточке подробных результатов оценки, описания конкретной архитектуры и точного размера контекста. Модель распространяется по лицензии Apache-2.0.

NeverSleep/Mistral-11B-AirOmniMix — объединённая автором модель на архитектуре Mistral для генерации текста. В состав смеси входят Mistral-7B-OpenOrca, Mistral-7B-v0.1-Open-Platypus, CollectiveCognition-v1.1-Mistral-7B и airoboros-mistral2.2-7b; автор сообщает, что объединил их с помощью mergekit. Репозиторий содержит веса FP16 в формате safetensors. Модель насчитывает 10,6 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации ответов в диалоге, следования инструкциям и решения общих текстовых задач. README приводит шаблоны USER/ASSISTANT и результаты собственных тестов на задачах ARC; эти оценки не являются независимой проверкой качества. Метаданные не подтверждают поддержку конкретных языков, поэтому языковые возможности здесь не уточняются. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

Eric111/Mistral-7B-Instruct-v0.2_openchat-3.5-0106 — диалоговая языковая модель, созданная слиянием Mistral AI и OpenChat с помощью mergekit. В слиянии использован метод SLERP; базовая модель — Mistral-7B-Instruct-v0.2, а веса сохранены в формате bfloat16. Модель предназначена для генерации текста в диалоге и ответов на инструкции. Она содержит 7,1 млрд параметров, построена на плотной архитектуре Mistral и поддерживает контекст до 32 768 токенов. Лицензия — Apache-2.0.

wang7776/Mistral-7B-Instruct-v0.2-sparsity-10 — разреженная версия инструктивной языковой модели Mistral-7B-Instruct-v0.2, созданная методом Wanda с целевой разреженностью 10% без дообучения или обновления весов. Базовая модель разработана Mistral AI; в карточке перечислены участники команды Mistral AI. Это плотный трансформер Mistral с Grouped-Query Attention, Sliding-Window Attention и токенизатором Byte-fallback BPE; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста по инструкциям и диалогового общения. В README указан формат запросов с маркерами [INST] и [/INST]; метаданные отмечают поддержку чата. Модель опубликована в формате safetensors по лицензии Apache-2.0. README предупреждает, что у базовой инструктивной модели нет механизмов модерации; качество и поведение разреженной версии отдельно не описаны.

EmbeddedLLM/Mistral-7B-Merge-14-v0.4 — экспериментально собранная языковая модель на архитектуре Mistral с 7,1 млрд параметров. Авторы объединили 14 моделей методом DARE TIES, а результат дополнительно объединили с Weyaxi/OpenHermes-2.5-neural-chat-v3-3-openchat-3.5-1210-Slerp методом Gradient SLERP. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате. Поддерживает шаблоны ChatML и Llama-2 chat, английский язык и контекст до 32 768 токенов. В README приведены результаты Open LLM Leaderboard: средняя оценка 71,19, включая ARC, HellaSwag и MMLU; авторы отмечают, что модели может потребоваться дополнительное дообучение на инструкциях. Лицензия — Apache-2.0.

OpenPipe создала эту плотную авторегрессионную языковую модель на архитектуре Mistral с помощью слияния весов методом SLERP. В состав слияния вошли Weyaxi/OpenHermes-2.5-neural-chat-v3-3-Slerp и Q-bert/MetaMath-Cybertron-Starling, построенные на базе mistralai/Mistral-7B-v0.1. Модель содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена как сильная исходная точка для последующего дообучения на разных задачах генерации текста. Авторы сообщают о хороших результатах на внутренних оценках, но не приводят в карточке их подробностей. Репозиторий содержит веса в формате safetensors. Лицензия CC BY-NC 4.0 ограничивает использование некоммерческими целями; авторы также рекомендуют обновлённую версию модели с более разрешительной лицензией.

Mistralopithecus-v1-dpo-7b-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная объединением Mistral-7B-Instruct-v0.2 и mistralopithecus-v1-dpo-7b методом SLERP с помощью mergekit. Это плотная архитектура MistralForCausalLM с 7,1 млрд параметров, предназначенная для генерации текста и ответов на инструкции в диалоговом формате. Модель принимает текст и выдаёт текст; длина контекста составляет до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. README описывает способ слияния и исходные модели, но не приводит отдельной оценки качества или подробностей о языках и специализированных областях применения.

Это GGUF-квантизированная версия текстовой генеративной модели Qwen3-14B-ft-limo, разработанной mrm8488 и дополнительно подготовленной в различных вариантах точности пользователем bartowski. Базовая модель связана с датасетом GAIR/LIMO и предназначена для генерации текста, включая запуск локально через llama.cpp, LM Studio и совместимые проекты. Модель имеет размер 14 млрд параметров и поддерживает наборы весов от BF16 до низкоразрядных вариантов Q2–Q8, что позволяет выбирать компромисс между качеством, требованиями к памяти и скоростью работы. Рекомендуемыми указаны варианты Q4_K_M, Q5 и Q6; более компактные версии подходят для систем с ограниченной оперативной памятью, но обеспечивают более низкое качество. Используется шаблон запросов в формате ChatML. Сведения о поддерживаемых языках, максимальном контексте и дополнительных модальностях в README не приведены, поэтому модель следует рассматривать как текстовую. Сильной стороной являются разнообразные варианты квантизации, включая imatrix-квантизацию, позволяющие запускать модель на локальном оборудовании. Ограничения зависят от выбранного формата: уменьшение размера весов может снижать качество генерации, а для запуска требуются совместимые llama.cpp-инструменты и достаточный объём памяти. Указанная лицензия — Apache-2.0.

zelk12/MT5-Gen3-MAG-gemma-2-9B — объединённая языковая модель на архитектуре Gemma 2, созданная из двух предварительно обученных моделей с помощью SLERP и mergekit. Разработчик репозитория — zelk12; квантованные файлы указаны как предоставленные @mradermacher. Модель предназначена для генерации текста и диалогового взаимодействия. Она содержит 9 млрд параметров, использует библиотеку Transformers и поддерживает контекст длиной до 8192 токенов. В репозитории указаны веса safetensors; README также описывает статическую сборку GGUF. Модель объединяет zelk12/MT5-Gen3-MA-gemma-2-S4MT4g2-9B и zelk12/MT5-Gen3-GP-gemma-2-RIv0.1MT4g2-9B методом SLERP. Лицензия в предоставленных данных не указана. Практическое качество и ограничения в карточке не описаны.

michaelfeil/mxbai-rerank-large-v2-seq — вариант семейства Mixedbread mxbai-rerank-large-v2, представленный как классификатор последовательностей на архитектуре Qwen2. Модель предназначена для ранжирования пар «запрос—документ»: она оценивает релевантность кандидатов и помогает выбирать подходящие фрагменты для поисковой выдачи и RAG. В карточке указаны поддержка кода и длинного контекста; метаданные указывают 1,5 млрд параметров и контекст до 32 768 токенов. Модель рассчитана на многоязычный поиск; разработчики заявляют поддержку более 100 языков и особенно сильные результаты на английском и китайском. В README приведены результаты тестов BEIR, мультиязычного и китайского поиска, поиска по коду, а также задержка на A100, но эти показатели зависят от условий измерения. Для использования через классификационный интерфейс требуется специальный шаблон промпта. Лицензия репозитория — Apache-2.0.