I.11Классификация, ранжирование и сопоставление
В разделе собраны самостоятельные задачи, где AI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 736 моделейBeacon Qwen 2 7B Instruct — разговорная языковая модель семейства Qwen2, представленная в формате safetensors. README описывает Activation Beacon как подключаемый модуль для трансформерных LLM, предназначенный для эффективного сжатия длинного контекста; данных о том, как именно модуль связан с весами этой модели, нет. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и рассчитана на генерацию текста в чат-сценариях. В карточке указана лицензия MIT. README предупреждает, что превышение заданной длины контекста может привести к ошибкам или снижению производительности.
mulasan/bistbot-deepseek-math-8b — дообученная языковая модель mulasan на базе unsloth/DeepSeek-R1-Distill-Llama-8B-bnb-4bit. Это плотная архитектура Llama с примерно 7,5 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия; в метаданных также отмечен интерфейс вызова инструментов. Модель принимает текст и генерирует текст, а её родная длина контекста составляет 131072 токена. Карточка сообщает, что обучение выполнялось с Unsloth и библиотекой TRL.
Crazy-Qwen2-7b — объединённая модель на основе Qwen2-7B, созданная с помощью mergekit. В состав слияния вошли Locutusque/Hercules-5.0-Qwen2-7B, natong19/Qwen2-7B-Instruct-abliterated и macadeliccc/Samantha-Qwen-2-7B; использован метод model_stock, а в конфигурации базовой модели указана natong19/Qwen2-7B-Instruct-abliterated. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и рассчитана на генерацию текста и диалоговое общение. Размер контекста — до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Метаданные описывают модель как экспериментальную модификацию Qwen2-7B-Instruct для диалогов и генерации текста с ослабленными направлениями отказа; это может снижать надёжность отказов на чувствительные запросы.
Это набор GGUF-квантизированных версий языковой модели Gemma 3 40B, разработанной ddh0 и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и локального запуска в совместимых приложениях, включая LM Studio, llama.cpp и другие проекты на его основе. В набор входят варианты от BF16 до низкобитных Q2 и IQ-квантизаций размером примерно от 15,5 до 79,6 ГБ. Доступны различные уровни компромисса между качеством, требованиями к памяти и скоростью инференса; наиболее качественными и рекомендуемыми в README названы варианты Q6_K, Q6_K_L, Q5 и Q4. Архитектура, поддерживаемые языки, модальности и размер контекста в предоставленных данных не указаны. Сильной стороной модели является широкий выбор квантизаций, позволяющий адаптировать запуск к доступным ресурсам, при этом старшие варианты сохраняют качество, близкое к исходной модели. Низкобитные варианты требуют меньше памяти, но могут заметно уступать по качеству. Для модели не указан отдельный chat template, поэтому используется шаблон по умолчанию, который может быть некорректным; рекомендуется сверяться с карточкой исходной модели. Лицензия указана как Gemma.
Elbaz-NVIDIA-Nemotron-3-Nano-30B-A3B-PRISM-NVFP4 — квантизированная версия разговорной языковой модели NVIDIA Nemotron-3-Nano, подготовленная Эриком Эльбазом (Ex0bit) с помощью NVIDIA TensorRT Model Optimizer. Модель предназначена для генерации текста в диалогах и представлена как вариант без фильтрации ответов. Это гибридная модель семейства Nemotron с архитектурой Mamba-2 и MoE; базовая версия содержит 30 млрд параметров при 3 млрд активных. Веса сжаты в формат NVFP4, размер чекпойнта около 18 ГБ. Для запуска требуются GPU NVIDIA Blackwell и TensorRT-LLM версии 0.17 или новее. README указывает калибровку на 512 примерах WikiText-2. Модель подходит для диалогов, ответов на вопросы, рассуждений и задач программирования; метаданные указывают английский язык. Формат несовместим с потребительскими GPU RTX 3000/4000/5000, llama.cpp и стандартным инференсом PyTorch. В карточке базовой модели указана поддержка шести языков, но языки кроме английского для этой версии отдельно не подтверждены. Лицензия в метаданных обозначена как other.
Elysium2.1-11b — объединённая модель для генерации текста, созданная powermove72 с помощью LazyMergekit. При слиянии методом passthrough использованы слои 0–24 модели powermove72/Trinity_Notus-xb и слои 25–49 модели powermove72/GreenScorpius-xb-Passthrough. Модель построена на плотной архитектуре Mistral с 11 млрд параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста и диалоговых ответов на входные текстовые запросы. Репозиторий содержит веса в формате Safetensors; в конфигурации слияния указан тип bfloat16. Лицензия в предоставленных данных не указана.
Experiment28M7_Experiment26Alloyingotneoy — объединённая модель семейства Mistral, созданная из automerger/Experiment28M7-7B и automerger/Experiment26Alloyingotneoy-7B. Она предназначена для генерации текста и может использоваться в приложениях, которым нужна языковая модель общего назначения. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате safetensors. Лицензия — Apache-2.0.
Falkor-7b-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral, созданная объединением mistralai/Mistral-7B-Instruct-v0.2 и perlthoughts/Falkor-7b методом SLERP. Она предназначена для генерации текста и ответов на инструкции в чат-сценариях. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. В репозитории представлены веса SafeTensors. Модель распространяется по лицензии Apache-2.0. Карточка описывает состав объединения и параметры слияния, но не приводит сравнительных оценок качества или подробностей о поддерживаемых языках.
Gemma 3 27B PT — мультимодальная модель Google, представленная на Hugging Face в версии, опубликованной Unsloth. Это дообучение предварительно обученной модели google/gemma-3-27b-pt; архитектура Gemma 3 — плотная, с 27 млрд параметров. Модель принимает текст и изображения и генерирует текст. В карточке семейства указаны контекст до 128 тыс. токенов и поддержка более 140 языков. Модель подходит для ответов на вопросы по изображениям и тексту, извлечения и суммирования визуальной информации, генерации текста, диалоговых интерфейсов и суммаризации документов. Карточка также описывает применение в исследованиях и образовательных инструментах. Это предварительно обученная версия, а не вариант, специально настроенный для следования инструкциям. Доступны веса в формате Safetensors; лицензия — Gemma. Качество ответов зависит от обучающих данных и формулировки запроса: возможны предвзятые, ошибочные или устаревшие утверждения, а также трудности с нюансами языка и сложными открытыми задачами. Для надёжных результатов ответы следует проверять.
Dzluck публикует Gemma 4 E2B JANG4M CRACK — изменённую версию Google Gemma 4 E2B Instruct с удалёнными отказами. Модель предназначена для диалогов, рассуждений, ответов на вопросы и генерации кода; принимает текст и изображения, а автор также заявляет о сохранении аудиовхода. Каталог Hugging Face относит её к мультимодальной задаче image-text-to-text и указывает архитектуру Gemma4ForConditionalGeneration с плотной архитектурой. Модель использует смешанную квантизацию JANG_4M: 8-битные веса внимания и 4-битные веса MLP, в среднем около 4,3 бита. По данным автора, MMLU снизился на 1,7 процентного пункта относительно исходной модели; в тестах HarmBench автор сообщает о полном выполнении запросов вредных категорий. Для запуска нужны Mac на Apple Silicon и vMLX с поддержкой Gemma 4; стандартные mlx_lm и mlx_vlm поддерживаются не полностью. Лицензия — Gemma; карточка также обозначает модель как предназначенную для исследований.
Geneva 12B GammaCorpus v2-100k — плотная авторегрессионная языковая модель на архитектуре Mistral, разработанная rubenroy и дообученная на Mistral Nemo Instruct 2407 с использованием набора GammaCorpus v2-100k. Она предназначена для диалоговой генерации текста и следования инструкциям; метаданные также указывают интерфейс вызова инструментов. Модель содержит 12,1 млрд параметров и поддерживает контекст до 1 024 000 токенов. Карточка описывает GammaCorpus как набор структурированных и отфильтрованных многоходовых диалогов. Модель ориентирована на несколько языков, включая английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский. Весовые файлы доступны в формате Safetensors, библиотека для работы — Transformers. Лицензия — Apache-2.0. Автор заявляет целью превосходство над моделями сопоставимого размера, однако сравнительные результаты в карточке не приведены. Среди указанных ограничений — возможность генерации предвзятых ответов; качество вызова инструментов отдельно не охарактеризовано.
Карточка модели SillyTilly/google-gemma-2-9b на Hugging Face совпадает с карточкой google/gemma-2-9b, поэтому описание составлено по ней. Gemma 2 9B — текстовая авторегрессионная модель семейства Gemma, разработанная Google. Это базовая предварительно обученная версия с открытыми весами; README также описывает семейство в целом, включая варианты, дообученные для следования инструкциям. Модель предназначена для генерации текста, диалогов, ответов на вопросы, суммаризации и рассуждений, а её сравнительно компактный размер позволяет запускать её на персональных компьютерах и в собственной облачной инфраструктуре. Модель принимает текст и генерирует текст. В карточке семейство указано как англоязычное; конкретная длина контекста и число параметров не приведены в предоставленных данных. Модель может выдавать неточные или устаревшие сведения, испытывать трудности со сложным контекстом, нюансами языка и здравым смыслом, а также воспроизводить предвзятости обучающих данных. Лицензия — Gemma, с условиями и ограничениями, заданными политиками Google для использования моделей Gemma.
GreenOnion-7b-task — объединённая языковая модель от автора powermove72, созданная с помощью LazyMergekit из GreenNode/GreenNode-mini-7B-multilingual-v1olet и eren23/OGNO-7b-dpo-truthful. В конфигурации использован метод task arithmetic с весами 0,4 и 0,6 соответственно, нормализацией и объединённым токенизатором; архитектура — плотная MistralForCausalLM, веса сохранены в safetensors и рассчитаны на float16. Модель предназначена для генерации текста; базовая OGNO-7B ориентирована на правдивость ответов. Размер составляет 7,1 млрд параметров, длина контекста — 32 768 токенов. В названии одной из исходных моделей заявлена многоязычность, однако конкретный перечень поддерживаемых языков в предоставленных данных не приведён. Лицензия в источниках не указана.
HelixLM — языковая модель из серии открытых моделей Helix, разработанная Helix Lab. Это плотная авторегрессионная модель семейства Llama для генерации текста; карточка описывает её как релиз-кандидат, дообученный с чередованием этапов рассуждения. Модель ориентирована на математические задачи, понимание кода и многошаговые логические задачи, а также поддерживает диалог и интерфейс вызова функций. HelixLM рассчитана на решение сложных задач с более продолжительным внутренним рассуждением перед ответом. Разработчик сообщает о конкурентных результатах на внутренних наборах проверки, но не приводит размер модели или длину контекста. Для запуска рекомендуется температура 0,6; модель также предлагается через игровую площадку и API. Модель распространяется по лицензии Apache-2.0. Это релиз-кандидат; заявленные показатели основаны на внутренних тестах и в README не приведены подробные сведения о методике оценки. Увеличенный бюджет рассуждений может повышать расход токенов и задержку ответа.
Hermes-3-Llama-3.1-70B-lorablated-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Hermes-3-Llama-3.1-70B-lorablated, разработанной на базе Llama 3.1 и опубликованной mlabonne. Квантизации подготовлены пользователем bartowski с помощью llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалогового взаимодействия. Она поддерживает запуск через llama.cpp и LM Studio; в README также приведён специальный шаблон промпта с ролями system, user и assistant. Доступно множество вариантов квантизации от Q8_0 до IQ1_M, что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Размеры указанных файлов составляют примерно от 19 до 75 ГБ. Сильной стороной набора является возможность локального запуска крупной 70B-модели с разным уровнем сжатия; варианты Q6_K, Q5_K_M и некоторые Q4 рекомендуется использовать для высокого качества. Более компактные варианты требуют меньше памяти, но снижают качество генерации. В README не указаны поддерживаемые языки, размер контекстного окна, точные архитектурные характеристики, мультимодальные возможности и лицензия, поэтому эти свойства нельзя достоверно определить по представленным данным.
Human-Like-Qwen2.5-1.5B-Instruct — компактная языковая модель на архитектуре Qwen2, разработанная на основе Qwen/Qwen2.5-1.5B-Instruct и дообученная с помощью AutoTrain на Human-Like-DPO-Dataset. Модель предназначена для генерации текста и диалоговых ответов; в метаданных также отмечен интерфейс вызова инструментов. Модель содержит 1,5 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и поддерживает контекст до 32 768 токенов. Указаны языки китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Репозиторий содержит веса в формате safetensors и доступен по лицензии other; конкретные условия этой лицензии следует проверить перед использованием.
Это GGUF-квантизированная версия чат-модели InternLM2.5-20B-Chat, исходно разработанной командой internlm, а квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в локальных приложениях, например LM Studio. Для корректного взаимодействия следует использовать указанный в карточке шаблон prompt format с ролями system, user и assistant. Модель основана на архитектуре InternLM2.5 и имеет 20 млрд параметров; доступна в форматах от F32 до различных вариантов квантизации Q8, Q6, Q5, Q4, Q3, Q2 и IQ. Размер файлов составляет примерно от 6,97 до 79,45 ГБ, поэтому требования к памяти зависят от выбранного варианта. Более высокие уровни квантизации обычно обеспечивают лучшее качество, а компактные варианты позволяют запускать модель на системах с меньшим объёмом RAM, но могут заметно снижать точность. Для некоторых вариантов embeddings и output weights сохранены в Q8_0, что потенциально повышает качество. В карточке не указаны поддерживаемые языки, размер контекста, точная архитектура, результаты оценивания и ограничения по безопасности. Лицензия обозначена как other, без дополнительных условий в README, поэтому перед использованием необходимо проверить лицензию исходной модели InternLM2.5-20B-Chat и условия распространения конкретных файлов.
bartowski/Jackrong_Qwen3.5-9B-Neo-GGUF — это набор GGUF-квантизаций модели Jackrong/Qwen3.5-9B-Neo, подготовленный bartowski с использованием llama.cpp и метода imatrix. Модель ориентирована на задачи генерации текста и рассуждений, включая решение задач по программированию; при этом в карточке указан pipeline image-text-to-text, однако подробности поддержки изображений не приведены. Модель имеет размер порядка 9 миллиардов параметров, обучалась с использованием наборов данных Jackrong/Competitive-Programming-python-blend и stepfun-ai/Step-3.5-Flash-SFT. Заявлены английский и китайский языки, а также поддержка reasoning и chain-of-thought. Доступны варианты от BF16 и Q8_0 до компактных Q2_K_L, Q3 и IQ-квантизаций; версии с более высокой точностью обеспечивают лучшее качество, а младшие требуют меньше оперативной памяти, но заметно уступают по качеству. Размер контекста и точная архитектура в README не указаны. Файлы предназначены для локального запуска через llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и другие совместимые приложения. Для корректной работы следует использовать указанный шаблон prompt format с секцией <think>. Модель распространяется по лицензии Apache-2.0. Ограничения включают зависимость качества от выбранного уровня квантизации и отсутствие в карточке подробных сведений о точности, производительности, контекстном окне и фактических возможностях мультимодальной обработки.
Карточка модели dhanesh-hf/Jarvis-Titan-M4-Merged на Hugging Face совпадает с карточкой dhanesh-hf/Jarvis-Titan-V15-MoE-Decoupled, поэтому описание составлено по ней. J.A.R.V.I.S. Titan V15 MoE Decoupled — диалоговая языковая модель Dhanesh на архитектуре JarvisTitanMoEForCausalLM. Согласно карточке, она основана на DeepSeekMoE с общим экспертом и восемью маршрутизируемыми экспертами, из которых активируются два; также заявлены слои Tri-Brid памяти с локальным скользящим окном внимания, извлечением значимых KV-состояний и нейронной памятью Titans. Метаданные каталога указывают 7,1 млрд параметров и контекст 32 768 токенов. Модель предназначена для генерации текста в диалоге и взаимодействия с инструментами через соответствующий интерфейс. Карточка описывает объединённые автономные веса M4, включающие калиброванный адаптер Tri-Brid, а метаданные связывают модель с дообучением Jarvis-Titan-V14-MoE-Merged. В репозитории указаны веса Safetensors. Лицензия обозначена как other, поэтому условия использования следует проверять в материалах репозитория.
Карточка модели KeefeBuild/Keefe-Discere-v3.1-Final на Hugging Face совпадает с карточкой KeefeBuild/Keefe-Discere-v3.1, поэтому описание составлено по ней. KeefeBuild/Keefe-Discere-v3.1 — дообученная KeefeBuild языковая модель семейства Qwen2 с плотной архитектурой Qwen2ForCausalLM и 7,1 млрд параметров. Она предназначена для генерации текста и диалогов; метаданные также указывают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 32 768 токенов. Веса сохранены в формате safetensors. По карточке, модель обучали с использованием Unsloth и библиотеки TRL от Hugging Face. Она дообучена от KeefeBuild/Keefe-Discere-v3.0-Final и распространяется по лицензии Apache-2.0.
Kimi-K2-Base-BF16 — базовая языковая модель, опубликованная Unsloth на основе Kimi-K2-Base от Moonshot AI. Это модель семейства DeepSeek V3 с архитектурой Mixture-of-Experts: в исходной карточке указаны 1 трлн параметров всего и 32 млрд активируемых параметров; метаданные этого репозитория указывают 37,9 млрд параметров. Веса представлены в формате safetensors, библиотека — Transformers, контекст составляет 131 072 токена. Модель предназначена для генерации текста и служит основой для исследовательских и прикладных доработок, включая настройку под диалоги, рассуждения, программирование и агентные сценарии с вызовом инструментов. Карточка описывает возможности семейства Kimi K2, но отдельно отмечает, что Kimi-K2-Base — именно базовая модель; подробные рекомендации по чату и вызову инструментов относятся преимущественно к варианту Instruct. Карточка не сообщает поддерживаемые естественные языки и не приводит условий лицензии: в метаданных указано только значение «other».
Llama-3.1-70B-Hanami-x1 — экспериментальная чат-модель от Sao10K, созданная на основе Euryale v2.2. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для генерации текста в диалоге; в метаданных также заявлен интерфейс вызова инструментов. Автор отмечает, что модель отличается от Euryale v2.2 и предпочитает её предыдущим версиям после собственных проверок. Для моделей Llama 3 автор рекомендует параметр семплирования min_p не ниже 0,1; настройки Euryale v2.1 и v2.2 также подходят. Модель распространяется в формате safetensors по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
LFM2.5-1.2B-Thinking-MLX-bf16 — экспорт модели LFM2.5-1.2B-Thinking в формате MLX от Liquid AI для локального запуска на устройствах Apple Silicon. Это плотная авторегрессионная языковая модель семейства LFM2, предназначенная для диалогов и генерации ответов с рассуждением: перед итоговым ответом она может формировать цепочку рассуждений. В README заявлены 1,2 млрд параметров и точность bfloat16; каталог указывает 1,5 млрд параметров. Контекст — до 128 000 токенов. Модель поддерживает вызов функций и рассчитана на многоязычные сценарии. В метаданных указаны английский, японский, корейский, французский, испанский, немецкий, итальянский, португальский, арабский и китайский языки. Для запуска описан стек mlx-lm и формат диалога ChatML. Лицензия обозначена как other, поэтому условия использования следует уточнить в карточке модели и у правообладателя. Как компактная модель, она может уступать более крупным системам в сложных задачах; качество и надёжность рассуждений зависят от запроса и сценария.
Llama-3-Orca-1.0-8B-GGUF — квантизированная версия текстовой генеративной модели Llama-3-Orca-1.0-8B, разработанной Locutusque и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для локального запуска через llama.cpp и совместимые inference-движки, а также для генерации ответов в диалоговом формате. В обучении использовались наборы Open-Orca/SlimOrca-Dedup, jondurbin/airoboros-3.2, microsoft/orca-math-word-problems-200k, m-a-p/Code-Feedback и MaziyarPanahi/WizardLM_evol_instruct_V2_196k. Модель содержит 8 миллиардов параметров и работает только с текстом. В репозитории представлены варианты квантизации от Q8_0 до IQ1_S, что позволяет выбирать баланс между качеством и требованиями к памяти; наиболее предпочтительными в README названы Q6_K, Q5_K_M, Q5_K_S и ряд вариантов Q4. Доступны файлы размером примерно от 2 до 8,5 ГБ. Для общения используется шаблон с ролями system, user и assistant на основе специальных токенов Llama 3. Сильной стороной модели является возможность локального запуска на устройствах с ограниченными ресурсами и выбор уровня квантизации. При уменьшении разрядности снижаются требования к памяти, но ухудшается качество генерации; варианты IQ1 и некоторые Q3/Q2 обозначены как низкокачественные или нерекомендуемые. Длина контекста, поддерживаемые языки и точные показатели качества в README не указаны. Лицензия обозначена как other, без дополнительных условий в предоставленных данных.
MeliodasPercival_01_Strangemerges_32Ogno — объединённая модель семейства Mistral, созданная на основе automerger/MeliodasPercival_01-7B и automerger/Strangemerges_32Ogno-7B. Она содержит 7,1 млрд параметров и предназначена для генерации текста, включая диалоги, с контекстом до 32 768 токенов. Модель принимает текст и выдаёт текст. Веса доступны в формате safetensors; лицензия — Apache-2.0. README не приводит сведений о специализации модели или результатах оценки качества.
Tess-4-9B-GGUF — набор квантизированных GGUF-версий модели Tess-4-9B, разработанной migtissera и подготовленной bartowski с использованием llama.cpp и метода imatrix. Модель позиционируется для диалоговых, reasoning- и agentic-сценариев, включая задачи с инструментами и работу с длинным контекстом. В метаданных она также обозначена как multimodal и image-text-to-text, однако подробности о поддерживаемых типах изображений и фактических мультимодальных возможностях не приведены. Модель имеет размер 4B–9B согласно идентификатору и названию базовой модели, но точная архитектура, максимальная длина контекста и список языков в README не указаны. Доступны варианты от BF16 до сильнее сжатых Q2/Q3/Q4/Q5/Q6/Q8 и IQ-квантизаций; это позволяет выбирать между качеством, размером файла и требованиями к памяти. Версии GGUF предназначены для запуска через llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. README не описывает результаты тестов, поэтому сильные стороны и ограничения качества нельзя надежно оценить; при более агрессивном квантовании ожидается снижение качества. Указана лицензия Apache-2.0.
MiniCPM5-2B-8bit — языковая модель для генерации текста, разработанная openbmb и преобразованная сообществом mlx-community в формат MLX. Исходная модель — openbmb/MiniCPM5-2B; конвертация выполнена с помощью mlx-lm версии 0.31.3 с 8-битным квантованием и размером группы 64. Модель предназначена для текстовой генерации на устройствах и периферийных системах, включая локальные сценарии и edge AI. Заявлены поддержка английского и китайского языков, работы с длинным контекстом и вызова инструментов. Она может использоваться через библиотеку mlx-lm для загрузки модели, применения chat-шаблона и генерации ответов. Точные сведения об архитектуре, размере контекста и дополнительных возможностях в README не указаны. К сильным сторонам относятся компактный размер исходной модели 2B, 8-битное представление для более эффективного локального запуска и интеграция с MLX. Ограничения включают отсутствие заявленной мультимодальности и неполные сведения о производительности, точной длине контекста и качестве на отдельных задачах. Модель распространяется по лицензии Apache-2.0.
Eric111/Mistral-7B-Instruct-v0.2_openchat-3.5-0106 — диалоговая языковая модель, созданная слиянием Mistral AI и OpenChat с помощью mergekit. В слиянии использован метод SLERP; базовая модель — Mistral-7B-Instruct-v0.2, а веса сохранены в формате bfloat16. Модель предназначена для генерации текста в диалоге и ответов на инструкции. Она содержит 7,1 млрд параметров, построена на плотной архитектуре Mistral и поддерживает контекст до 32 768 токенов. Лицензия — Apache-2.0.
MaziyarPanahi/mistral-ft-optimized-1218-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral с 7,1 млрд параметров. Она создана методом Slerp merge из mistralai/Mistral-7B-Instruct-v0.1 и OpenPipe/mistral-ft-optimized-1218; веса представлены в формате safetensors. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Подходит для чат-ботов, черновиков текстов, ответов на вопросы и других сценариев генерации на английском языке. Заявленная длина контекста — 32 768 токенов. Модель распространяется по лицензии Apache-2.0. Доступные сведения не описывают отдельные ограничения качества или оценки безопасности.
Mistral-Passthrough-8L-10B — текстовая авторегрессионная модель на архитектуре Mistral, созданная DeepKarkhanis с помощью LazyMergekit. Веса собраны методом passthrough из двух диапазонов слоёв одной модели mistralai/Mistral-7B-Instruct-v0.2; репозиторий содержит формат Safetensors, а размер модели составляет 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов. Контекст — до 32 768 токенов. Используется лицензия Apache-2.0.