I.11Классификация, ранжирование и сопоставление

GLM-5.3-Flash-MLX-mixed-4_8bit — это порт модели GLM-5.3-Flash от zai-org, подготовленный PipeNetwork для MLX и Apple Silicon. Модель предназначена для генерации текста и изображений с текстовыми инструкциями, включая мультимодальные сценарии; vision tower сохранён в формате bfloat16. Архитектура исходной модели не изменена, однако слой multi-token prediction (layer 45) в этой сборке отсутствует. Модель имеет 320B параметров с архитектурой mixture-of-experts и активной конфигурацией A18B. Она объединяет 34 слоя линейного внимания Kimi-Delta и 11 слоёв разреженного внимания DeepSeek с NoPE MLA и lightning indexer, а также использует manifold-constrained hyper-connections. Маршрутизируемые эксперты занимают около 304B параметров и квантизированы в 4 бита, остальные основные компоненты — в 8 бит; параметры vision tower имеют формат bfloat16. Размер файлов составляет 181,9 ГБ. Сильная сторона сборки — существенное сокращение размера относительно 642,7 ГБ для исходной версии bfloat16 при сохранении приемлемого качества: perplexity на wikitext-2 составляет 3,5705 против 3,4607 у 8-битной версии. Для корректной работы рекомендуется исправленный runtime из проекта glm53-flash-mlx; стандартная ветка mlx-vlm содержит известные расхождения в вычислениях. README не указывает поддерживаемые языки и размер контекстного окна. Модель распространяется по лицензии MIT.

inferencerlabs/GLM-5.3-MLX-Q4i — квантизированная версия языковой модели GLM 5.3, основанная на zai-org/GLM-5.3-BF16 и подготовленная сообществом inferencerlabs. Модель предназначена для генерации и продолжения текста, локального текстового инференса и других задач, поддерживаемых библиотекой MLX. Данные о размере модели, архитектуре, языках и максимальной длине контекста в README не указаны. Модель использует формат MLX и квантизацию Q4-INF, настроенную методом INF для повышения общей точности при ограничении памяти до 512 GiB. По приведённым данным конверсии GLM 5.1, Q4-INF показала perplexity 1,21093, точность токенов 97,70% и missed divergence 10,65%; эти показатели не следует напрямую считать результатами для GLM 5.3. На M3 Ultra заявлена скорость около 15,8 токена в секунду при обработке последовательности длиной около 1000 токенов и потребление примерно 428,6 GiB памяти. Сильной стороной модели является адаптация под экосистему MLX и сохранение высокой точности при 4-битной квантизации, однако использование требует значительного объёма оперативной памяти и совместимого оборудования или программного окружения. Модальности ограничены текстом согласно указанному pipeline_tag. Лицензия в README не указана.

GoldenLlama-3.1-8B — плотная авторегрессионная языковая модель семейства Llama, созданная объединением Orenguteng/Llama-3.1-8B-Lexi-Uncensored и NousResearch/Hermes-3-Llama-3.1-8B с помощью mergekit. Слои 0–24 взяты из первой модели, а слои 25–31 — из второй; конфигурация слияния passthrough, исходная точность указана как bfloat16. Репозиторий содержит веса safetensors, модель насчитывает 7,5 млрд параметров и имеет контекстное окно 131 072 токена. Модель предназначена для генерации текста и диалогового использования. Лицензия репозитория — Apache-2.0. Карточка не приводит конкретных оценок качества или подробных ограничений; характеристики и поведение унаследованы от объединённых моделей и могут отличаться от каждой из них.

Это набор GGUF-квантизированных файлов модели gradientai/Llama-3-8B-Instruct-Gradient-1048k, разработанный Gradient AI и квантизированный командой featherless-ai-quants. Модель предназначена для генерации текста и использования в сценариях, требующих работы с инструкциями, включая локальный или совместимый с GGUF инференс. README не указывает поддерживаемые языки, дополнительные модальности или конкретные прикладные сценарии. В основе лежит Llama 3 с заявленным размером 8B параметров и контекстом 1048k; архитектурные подробности в README не приведены. Доступны варианты квантизации Q2_K, Q3_K_S, Q3_K_M, Q3_K_L, Q4_K_S, Q4_K_M, IQ4_XS, Q5_K_S, Q5_K_M, Q6_K и Q8_0, размером примерно от 3,0 до 8,1 ГБ. Разные варианты позволяют выбирать компромисс между размером файла, требованиями к ресурсам и потенциальным качеством, однако результаты конкретных вариантов в README не сравниваются. К сильным сторонам относятся большой заявленный контекст и широкий выбор форматов квантизации. Ограничения — отсутствие в предоставленных данных сведений о качестве, бенчмарках, системных требованиях, поддерживаемых языках и точной архитектуре. Лицензия в README не указана, поэтому условия использования необходимо уточнять в документации базовой модели gradientai/Llama-3-8B-Instruct-Gradient-1048k и соответствующего репозитория.

Abiray/Huihui-Qwythos-9B-Claude-Mythos-5-1M-abliterated-GGUF — набор квантизированных моделей в формате GGUF, созданный Abiray на основе Huihui-Qwythos-9B-Claude-Mythos-5-1M-abliterated от huihui-ai. Базовая модель представляет собой версию Qwythos-9B-Claude-Mythos-5-1M от empero-ai, модифицированную методами abliteration для удаления векторов отказа. Репозиторий также содержит мультимодальные проекционные файлы mmproj для работы с изображениями локально. Модель предназначена для генерации текста, рассуждений и сценариев image-to-text с поддержкой зрения. Заявлены архитектура современного семейства Qwen 3.5, 9 млрд параметров, английский язык и контекст до 1 млн токенов; конкретные возможности зависят от используемой сборки и совместимости с llama.cpp. Доступны варианты квантизации от 3 до 8 бит размером примерно от 4,74 до 9,79 ГБ, включая рекомендуемый компромисс Q4_K_M. Для визуального ввода требуется отдельный проектор mmproj; доступны квантизированный и F16-варианты. К сильным сторонам относятся локальный запуск, широкий выбор квантизации, поддержка длинного контекста и изображений, а также сниженное количество встроенных отказов. Ограничения включают возможную потерю качества при низкой квантизации, требования к свежей версии llama.cpp и необходимость дополнительного проектора для мультимодальной работы. Модель распространяется по лицензии Apache-2.0.

InternLM-XComposer2.5 — мультимодальная модель с языковой основой InternLM2, разработанная командой InternLM. Она предназначена для диалога и задач понимания и создания содержания по тексту и изображениям, включая визуальные вопросы и ответы. Модель содержит 7,4 млрд параметров и обучена работать с чередующимися фрагментами текста и изображений в контексте до 24 576 токенов; авторы сообщают о возможности расширения контекста до 96 тыс. токенов с помощью экстраполяции RoPE. Модель подходит для анализа изображений, ответов на вопросы по визуальным материалам и работы с длинными текстово-графическими контекстами. В карточке заявлены возможности, сопоставимые с GPT-4V, однако это заявление разработчиков, а независимые результаты оценки здесь не приведены. Репозиторий содержит веса PyTorch, для загрузки через Transformers требуется `trust_remote_code=True`; для экономии памяти README рекомендует bfloat16. Лицензия указана как `other`, поэтому условия использования следует сверить с файлами лицензии репозитория.

InternVL2-8B — мультимодальная диалоговая модель с настройкой по инструкциям, разработанная командой OpenGVLab и входящая в семейство InternVL 2.0. Вариант содержит около 8,1 млрд параметров и построен из визуального энкодера InternViT-300M-448px, MLP-проектора и языковой модели internlm2_5-7b-chat; в метаданных указана архитектура InternVLChatModel и библиотека Transformers. Модель принимает изображения и текстовые запросы и генерирует текстовые ответы. Она предназначена для диалога по изображениям, понимания документов, диаграмм и инфографики, распознавания текста на изображениях, решения визуальных научных и математических задач, а также анализа нескольких изображений и видеокадров. README указывает контекстное окно 8 тысяч токенов и обучение на длинных текстах, нескольких изображениях и видео; языковые коды отдельных языков в карточке не перечислены, указана мультиязычность. Разработчики сообщают о конкурентных результатах в задачах понимания изображений и видео, включая OCR и ответы на вопросы по документам и диаграммам. Репозиторий распространяется по лицензии MIT. Оценки в README получены на конкретных бенчмарках и настройках, поэтому сами по себе не гарантируют точность на произвольных данных; обработка видео описана через извлечение кадров.

IridiumLlama-72B-v0.1 — языковая модель с архитектурой Llama, созданная leafspark путём слияния Qwen2-72B-Instruct, calme2.1-72b и magnum-72b-v1 с помощью model_stock. Модель содержит 71,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст для генерации текста; заявленная длина контекста — около 32 тысяч токенов. Карточка отмечает разговорный режим и описывает сочетание выразительной прозы Magnum с возможностями Calme. Модель подходит для диалогов, генерации связных текстов и задач, решаемых инструктивными языковыми моделями. Веса размещены в формате safetensors и рассчитаны на использование с Transformers; для запуска в исходном виде README указывает около 150 ГБ свободного места и VRAM. Лицензия указана как other, поэтому условия использования следует сверить с карточкой модели и лицензиями компонентов.

L3.1-70b-Swallow-Saigetsu — объединённая языковая модель, созданная автором репозитория с помощью LazyMergekit на Runpod из tokyotech-llm/Llama-3-Swallow-70B-v0.1 и NousResearch/Meta-Llama-3.1-70B-Instruct. Это плотная архитектура Llama с 69,5 млрд параметров, предназначенная для диалога и генерации текста; используется формат чата Llama 3 Instruct. Модель принимает текст и генерирует текст, а нативный контекст составляет 131 072 токена. Подходит для многоязычного общения, ответов на вопросы и генерации текста в формате инструкционного чата. В карточке описана как экспериментальная неформальная попытка объединить две модели; результаты и отдельные языковые преимущества не заявлены. Лицензия — llama3.1.

Llama-3.1-Niitorm-8B — объединённая диалоговая языковая модель на архитектуре Llama 3.1, созданная слиянием Sao10K/L3.1-8B-Niitama-v1.1 и akjindal53244/Llama-3.1-Storm-8B методом NEARSWAP с параметром t=0.0001. В README также указано включение варианта Niitama с LoRA для abliteration. Модель содержит 7,5 млрд параметров, работает с текстом и имеет контекстное окно до 131 072 токенов. Модель предназначена для диалогов и генерации текста, в том числе ответов на инструкции и вызова функций через соответствующий интерфейс. В карточке заявлена преимущественно выполненная abliteration, однако подробные оценки качества и гарантии поведения не приведены. Доступны веса в формате safetensors; README также упоминает сторонние квантизированные сборки GGUF. Лицензия в предоставленных данных не указана.

Linkbricks-Horizon-AI-Korean-Advanced-8B-COT-boost — корейская языковая модель, дообученная Юнсоном Джи (Saxo), специалистом Linkbricks по данным, на базе Saxo/Linkbricks-Horizon-AI-Nous-Hermes-3-Llama3.1-Korean-cpt-8b. Это плотная модель семейства Llama с 7,5 млрд параметров, обученная этапами SFT и DPO. Она предназначена для диалога, генерации текста, перевода между корейским, китайским, английским и японским, суммаризации, вопросов и ответов, а также математических и логических задач. Поддерживает вызов функций и инструментов на корейском языке. Модель заявлена как усиленная для пошаговых рассуждений и имеет контекстное окно 128 тыс. токенов. Обучение использовало корейские данные, в том числе новостные корпуса, наборы для перевода, суммаризации, вопросов и ответов, а также математические и логические примеры; токенизатор унаследован от базовой модели. Для использования опубликованы веса в формате safetensors, библиотека — Transformers. Лицензия — Apache-2.0. Описание не приводит количественных оценок качества. Способность к рассуждениям и точность на переводе, математике и логике могут зависеть от формулировки запроса и требуют проверки для конкретного применения.

nlpguy/Lion-Lamarck-v.1.1.0 — объединённая с помощью mergekit модель на базе семейства Qwen2.5. В слиянии использован SCE, а CultriX/Qwen2.5-14B-Wernicke указан как базовая модель; также объединены SuperNova-Medius, Qwen2.5-14B-Vimarckoso-v3, DeepSeek-R1-Distill-Qwen-14B и Lamarck-14B-v0.7. Модель содержит 14 млрд параметров, построена на плотной архитектуре Qwen2ForCausalLM и распространяется в формате safetensors. Модель предназначена для генерации текста и диалогов; метаданные также указывают интерфейс вызова инструментов. Контекст составляет до 131 072 токенов. В карточке не приведены сведения о целевых языках, тестировании качества или рекомендуемых сценариях. Лицензия в предоставленных данных не указана.

aifeifei799 выпустил вариант Llama 3.1 8B Instruct с пометкой Uncensored. Это авторегрессионная плотная языковая модель на архитектуре Transformer с Grouped-Query Attention; метаданные указывают 7,5 млрд параметров и контекст до 131 072 токенов. Модель принимает текст и генерирует текст, поддерживает диалоговый режим и предназначена для многоязычных ассистентских сценариев и генерации текста. Карточка основана на описании Meta Llama 3.1 Instruct и указывает на английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Пометка Uncensored указывает на изменённые ограничения ответа, но README не описывает метод или объём дообучения и не подтверждает конкретные свойства этого изменения. Модель доступна в формате Safetensors по лицензии Llama 3.1 Community License; перед применением следует учитывать условия лицензии и самостоятельно оценивать безопасность ответов.

Llama-Magpie-3.2-3B-Instruct — языковая модель prithivMLmods, дообученная на базе meta-llama/Llama-3.2-3B-Instruct на наборе Magpie-Pro-300K-Filtered-H4. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 3,2 млрд параметров, предназначенная для генерации текста, диалогов и выполнения инструкций. Метаданные указывают контекстное окно до 131 072 токенов; модель доступна в формате safetensors и поддерживает чатовый интерфейс и интерфейс вызова инструментов. Модель подходит для создания текстов и кратких пересказов, ответов в чат-ботах и выполнения задач, заданных естественным языком. В карточке указан английский язык; базовая модель описана как мультиязычная, однако README не уточняет языки, на которых именно эта настройка проверена. Качество на конкретных задачах и практический эффект увеличенного контекста не приведены. Указана лицензия CreativeML OpenRAIL-M.

Poro 2 70B Instruct — разговорная модель с открытыми весами, разработанная совместно AMD Silo AI, группой TurkuNLP Университета Турку и High Performance Language Technologies (HPLT). Она дообучена методами SFT и DPO на базе Poro 2 70B Base, продолжавшей предобучение на основе Llama 3.1 70B. Модель имеет плотную архитектуру LlamaForCausalLM, около 69,5 млрд параметров и контекст до 8192 токенов. Модель предназначена для диалогов и выполнения инструкций на финском и английском языках. Она подходит для ответов на вопросы, создания текстов, образовательных и клиентских помощников, а также перевода между финским и английским. В карточке отмечены дополнительные способности к программированию и математике и интерфейс для вызова инструментов. Оценки в карточке показывают сильные результаты на финских задачах следования инструкциям при сохранении хороших результатов на английском. Модель может ошибаться, воспроизводить предубеждения обучающих данных или выдавать неподходящий и спорный контент; её навыки на языках помимо финского и английского ограничены. Лицензия — Llama 3.3 Community License.

Sakalti/Magro-7b-v1.1 — объединённая модель для генерации текста и диалогового общения, созданная автором репозитория с помощью mergekit. В основе слияния лежит HuggingFaceH4/zephyr-7b-alpha; также включена Sakalti/magro-7B. Использован метод TIES, итоговые веса указаны в формате bfloat16. Модель построена на архитектуре Mistral с плотной причинно-языковой моделью примерно на 7,1 млрд параметров. Она принимает текстовые запросы и генерирует текстовые ответы; заявленная длина контекста — 32 768 токенов. Подходит для диалоговых приложений и генерации ответов. Лицензия — MIT.

MelloGPT-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral, созданная MaziyarPanahi слиянием методом SLERP моделей Mistral-7B-Instruct-v0.2 и MelloGPT. Она предназначена для генерации текста и ответов на инструкции в чат-сценариях. Модель содержит 7,1 млрд параметров, использует формат Safetensors и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст; в карточке указана лицензия Apache-2.0. README описывает смешивание слоёв внимания и MLP с разными коэффициентами. Карточка не сообщает о специальных предметных областях или иных модальностях.

Модель Hjgugugjhuhjggg/mergekit-passthrough-owrmdht — объединение языковой модели meta-llama/Llama-3.2-1B-Instruct, созданное методом passthrough с помощью mergekit. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 1,2 млрд параметров; она предназначена для генерации текста и диалогового взаимодействия, включая сценарии с интерфейсом вызова инструментов. Модель принимает текст и генерирует текст. Указанная длина контекста — 131 072 токена. Базовая модель Meta описана как компактная многоязычная модель, настроенная на выполнение инструкций и предназначенная для диалогов, поиска сведений, суммаризации и помощи в написании текста. Модель опубликована в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

Sacralet/mistral-7B — диалоговая instruction-модель на базе Mistral-7B, представленная как улучшенная instruct-версия Mistral-7B-Instruct-v0.1. Архитектура — плотный трансформер MistralForCausalLM с Grouped-Query Attention и Sliding-Window Attention; размер составляет 7,1 млрд параметров, контекст — до 32 768 токенов. Для инструкций используется формат [INST]…[/INST], доступный также через шаблон чата Transformers. Модель предназначена для диалогов и генерации ответов на инструкции. В карточке указана лицензия Apache-2.0. README описывает её как демонстрацию возможностей дообучения базовой модели и отмечает отсутствие механизмов модерации. Языковая поддержка отдельно не перечислена.

Mistral-7B-KNUT-v0.2-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.1 и Mistral-7B-KNUT-v0.2 методом SLERP. Модель содержит 7,1 млрд параметров, работает с текстом и имеет контекст до 32 768 токенов. Модель предназначена для генерации текста, ответов на инструкции и диалоговые запросы. Сочетает возможности двух исходных моделей; карточка не приводит отдельных оценок качества или конкретных специализированных сценариев. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Это GGUF-квантизированная версия модели Devstral-Small-2507, разработанной Mistral AI и подготовленной пользователем bartowski. Квантизация выполнена с помощью llama.cpp release b5856 и метода imatrix. Модель предназначена для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. В карточке указана мультимодальная категория image-text-to-text, однако подробные сведения об архитектуре, количестве параметров и поддерживаемом контексте не приведены. Заявлена поддержка множества языков, включая английский, французский, немецкий, испанский, португальский, итальянский, японский, корейский, русский, китайский, арабский, украинский и другие. Доступны варианты от BF16 до различных уровней квантизации; размеры файлов составляют примерно от 10 до 47 ГБ. Более высокие уровни квантизации обычно обеспечивают лучшее качество, а низкие требуют меньше оперативной памяти. Основные преимущества версии — возможность локального запуска, широкий выбор компромиссов между качеством и требованиями к памяти, а также совместимость с экосистемой llama.cpp. Ограничения включают отсутствие в README подробных данных о характеристиках исходной модели, результатах оценки и требованиях к оборудованию; качество заметно зависит от выбранного варианта квантизации. Модель распространяется по лицензии Apache-2.0.

Mistral-Small-24B-Base-2501 — базовая плотная языковая модель с 23,4 млрд параметров, разработанная командой Mistral AI. Она предназначена для дообучения и создания специализированных моделей, а также для генерации текста и диалоговых сценариев. Модель использует архитектуру MistralForCausalLM и поддерживает контекст длиной до 32 768 токенов. Модель рассчитана на многоязычное применение: в метаданных и карточке указаны английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. В карточке также отмечена поддержка ряда других языков. Лицензия Apache 2.0 разрешает коммерческое и некоммерческое использование, изменение и распространение. Это базовая версия; для готового диалога разработчик предлагает отдельную версию Instruct. Заявления о качестве сопровождаются результатами бенчмарков в карточке, но они не гарантируют качество в конкретном сценарии.

MN-magnum-v2.5-18.5B-kto-Instruct-GGUF — это квантизированная GGUF-версия инструкционной языковой модели MN-magnum-v2.5-18.5B-kto-Instruct, разработанной DavidAU и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и запуска через llama.cpp или совместимые приложения, включая LM Studio. Она поддерживает диалоговый формат с системными и пользовательскими сообщениями. В основе лежит модель размером 18,5 млрд параметров; точная архитектура, поддерживаемые языки, модальности и размер контекстного окна в README не указаны. Доступны варианты от F16 до низкобитных квантований Q2 и IQ, что позволяет выбирать между качеством ответов, размером файла и требованиями к оперативной памяти. Для квантования использовались llama.cpp и imatrix с указанным набором данных; варианты Q5–Q6 отмечены как высококачественные и рекомендуемые, а Q3 и Q2 предназначены для систем с ограниченными ресурсами, но могут заметно уступать по качеству. Лицензия в README не указана, поэтому условия использования необходимо уточнять в карточке исходной модели DavidAU/MN-magnum-v2.5-18.5B-kto-Instruct.

NextSearch-1-M — дообученная компанией NextTokenAI модель на базе Inkling-Small, предназначенная для веб-исследований в составе системы с оркестратором. Она разбивает вопрос на подзадачи, ищет и получает материалы из актуального веба, сопоставляет противоречивые свидетельства и возвращает краткий ответ или структурированный исследовательский результат. Модель относится к семейству Inkling, использует плотную архитектуру класса InklingForConditionalGeneration; заявленный размер — 276 млрд параметров, из которых активно около 12 млрд. В карточке описаны агентные сценарии с поиском и использованием инструментов; запуск предлагается через vLLM с контекстом до 65 536 токенов. В опубликованной оценке на наборах для поиска свежих и противоречивых данных, многокритериального поиска и подготовки полных ответов модель показала конкурентные результаты в рамках собственного тестового стенда NextTokenAI. Это не гарантирует сопоставимость с результатами других бенчмарков. Для запуска в bf16 требуется около 530 ГБ весов и мног GPU-сервер; модель рассчитана на повторные вызовы оркестратором, а не на самостоятельное подключение к вебу без инструментов. Лицензия — Apache-2.0.

Это объединённая модель Nous-Hermes-2-Pro_into_Nous_Hermes-2-DPO, созданная с помощью LazyMergekit на основе NousResearch/Hermes-2-Pro-Mistral-7B и NousResearch/Nous-Hermes-2-Mistral-7B-DPO. Веса объединены методом SLERP; модель построена на архитектуре Mistral и содержит 7,1 млрд параметров. Модель предназначена для диалогов и генерации текста по инструкциям. Она принимает текст и выдаёт текст; заявленная длина контекста составляет 32 768 токенов. В метаданных указана возможность чат-взаимодействия, но отдельные языки и специализированные прикладные области не заявлены. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана, поэтому условия использования определить нельзя. Качество и ограничения именно этого слияния в README не описаны; поведение может отличаться от исходных моделей.

DeepHermes-3-Llama-3-3B-Preview-GGUF — набор GGUF-квантизованных версий языковой модели DeepHermes-3-Llama-3-3B-Preview, разработанной NousResearch и подготовленной квантизацией bartowski с использованием llama.cpp. Модель предназначена для генерации текста, диалогов и выполнения инструкций; среди заявленных сценариев — чат, reasoning, roleplaying, function calling и генерация JSON. Указана поддержка английского языка и формата prompt, совместимого с Llama 3 и ChatML-подобной структурой ролей. Модель имеет около 3 млрд параметров и работает с текстовой модальностью. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4 и Q3 размером примерно от 1,9 до 6,4 ГБ, что позволяет запускать её локально через llama.cpp, LM Studio и другие совместимые проекты, в том числе на устройствах с ограниченной памятью. Более сильные стороны — компактность, широкий выбор квантизаций и пригодность для локального inference; при этом это preview-версия, а квантизация может снижать качество по сравнению с исходными весами. Размер контекстного окна и дополнительные языки в README не указаны. Лицензия обозначена как llama3.

OpenBuddy Mistral 7B v13.1 — это языковая модель для генерации текста и диалогового взаимодействия, разработанная командой OpenBuddy на базе архитектуры Mistral. Данный репозиторий подготовлен TheBloke и содержит квантизированные версии модели в формате GGUF, предназначенные для запуска через llama.cpp и совместимые приложения и библиотеки, включая LM Studio, KoboldCpp, text-generation-webui и llama-cpp-python. Модель имеет около 7 миллиардов параметров и ориентирована на задачи ассистирования, ответов на вопросы, рассуждений и многоязычного общения. В метаданных заявлена поддержка китайского, английского, французского, немецкого, японского, корейского, итальянского и русского языков. Доступны варианты квантизации от 2 до 8 бит для инференса на CPU и GPU, что позволяет выбирать компромисс между качеством, скоростью и потреблением памяти. Информация о размере контекстного окна и мультимодальных возможностях не указана; модель предназначена для работы с текстом. К сильным сторонам относятся относительно компактный размер, широкий выбор уровней квантизации и возможность локального запуска на разнообразном оборудовании. Ограничения включают потенциальное снижение качества в квантизированных вариантах, отсутствие заявленных мультимодальных возможностей и неизвестный размер контекста. Модель распространяется по лицензии Apache 2.0.

Orpomis-Prime-7B-dare — объединённая с помощью Mergekit языковая модель от автора saucam. Она сочетает kaist-ai/mistral-orpo-beta и NousResearch/Hermes-2-Pro-Mistral-7B методом dare_ties; в конфигурации заданы веса 0,6 и 0,4, плотность 0,5 и тип данных bfloat16. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста по запросу. Её можно применять для ответов на вопросы, написания и преобразования текста, а также выполнения инструкций в текстовом чате. В репозитории представлены веса safetensors. Модель объединяет две базовые модели; самостоятельное дообучение Orpomis-Prime-7B-dare в карточке не заявлено. Сведения о лицензии, поддерживаемых языках и специальных ограничениях в доступных данных отсутствуют.

Orsta-7B — мультимодальная модель зрения и языка, разработанная командой MiniMax-AI на основе Qwen2.5-VL-7B-Instruct. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2.5-VL и дообучена с помощью системы обучения с подкреплением V-Triune на восьми визуальных задачах. Она принимает изображения и текстовые запросы и предназначена для визуальных рассуждений и восприятия: ответов на вопросы по математике и науке, понимания диаграмм и решения головоломок, обнаружения и подсчёта объектов, визуальной локализации и OCR. Контекст составляет до 128 000 токенов; в карточке указан английский язык. Модель распространяется в формате safetensors через Transformers по лицензии MIT.

Phi-3-mini-4k-instruct-bnb-4bit — инструкционная языковая модель семейства Phi, разработанная Microsoft AI и командой Phi и опубликованная в 4-битном формате квантования через Unsloth. Модель предназначена для диалоговых сценариев, генерации и завершения текста, а также для дообучения на собственных наборах данных с использованием Transformers и инструментов Unsloth. Из доступных данных известно, что модель работает с английским языком и имеет контекстное окно на 4K токенов. Суффикс bnb-4bit указывает на 4-битное представление, ориентированное на снижение требований к памяти и запуск на более доступном оборудовании. README также указывает на поддержку дообучения и последующего экспорта в форматы GGUF и vLLM, однако точный размер модели, архитектура и результаты оценки для этой конкретной версии не приведены. Сильными сторонами являются компактное квантованное представление и пригодность для локального запуска и экспериментов с дообучением. Ограничения включают заявленную языковую специализацию на английском, ограничение контекста 4K токенами и возможные потери качества, связанные с 4-битным квантованием. Модель распространяется по лицензии MIT.