I.3Извлечение и структурирование данных

MaziyarPanahi/Ministral-3-14B-Reasoning-2512-GGUF — это набор файлов модели в формате GGUF для исходной модели Ministral-3-14B-Reasoning-2512, разработанной компанией Mistral AI. Квантизацию и публикацию этой версии выполнил MaziyarPanahi. Модель относится к классу генеративных текстовых моделей и предназначена для задач text-generation, включая локальный запуск через совместимые приложения и библиотеки. Формат GGUF ориентирован на эффективный запуск моделей, в том числе с использованием llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и других поддерживающих его инструментов. В репозитории представлены варианты квантизации с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством вывода. Заявленный размер исходной модели — 14B параметров. README не содержит сведений об архитектуре, поддерживаемых языках и модальностях, размере контекстного окна, результатах тестирования или конкретных ограничениях качества. Лицензия в предоставленных данных также не указана, поэтому условия использования необходимо уточнять в карточке исходной модели и репозитории. Для работы требуется совместимое программное обеспечение с поддержкой GGUF; конкретные требования к оборудованию зависят от выбранной разрядности и режима запуска.

cloudyu/mistral_11B_instruct_v0.1 — разговорная языковая модель на архитектуре Mistral с 48 слоями и 10,6 млрд параметров. Автор карточки сообщает, что модель дообучена методом SFT на vicgalle/alpaca-gpt4; формат примера использует инструкцию, входные данные и ожидаемый ответ. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате. Она принимает текст и рассчитана на контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия — CC BY 4.0. Карточка не приводит оценок качества или подробных ограничений применения, поэтому пригодность для конкретных задач следует проверять отдельно.

Это сборка Mistral 7B Instruct v0.2 от Mistral AI, подготовленная Mozilla AI в формате llamafile. В её основе — плотная диалоговая модель Mistral, дообученная для генерации текста по инструкциям; базовая версия содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий включает варианты квантования разной разрядности, в том числе с заметной потерей качества на самых компактных настройках. Модель подходит для локального чат-общения, ответов на вопросы и выполнения текстовых инструкций через llama.cpp и совместимые интерфейсы. Формат llamafile упрощает запуск на обычных системах с ARM64 и AMD64; конкретные требования к памяти и качество зависят от выбранного файла. Модель не имеет встроенных механизмов модерации. Лицензия — Apache-2.0.

Это набор GGUF-квантизованных файлов модели Mistral Nemo Instruct 2407, разработанной Mistral AI и квантизованной командой featherless-ai-quants. Модель предназначена для генерации текста и выполнения инструкций, поэтому может использоваться в диалоговых приложениях, локальных ассистентах и других сценариях text-generation при наличии совместимого ПО для работы с форматом GGUF. В репозитории представлены варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 4,6 до 12,4 ГБ. Квантизация позволяет выбирать компромисс между размером файла, требованиями к ресурсам и сохранением качества, однако README не содержит сведений об архитектуре, числе параметров, поддерживаемых языках, модальностях и размере контекста. Сильная сторона представленной версии — широкий выбор уровней квантизации для развёртывания на оборудовании с разными ограничениями по памяти. Ограничения качества и производительности зависят от выбранного варианта и среды запуска; конкретные результаты в README не приведены. Лицензия модели и условия её использования в предоставленных данных не указаны.

Это объединённая диалоговая модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.2 и OpenPipe/mistral-ft-optimized-1227 методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и ответов на инструкции в диалоговом формате; контекст составляет до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и других текстовых задач общего назначения. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Mistral-Nemo-12B-ArliAI-RPMax-v1.1-GGUF — это набор GGUF-квантизированных файлов модели Mistral-Nemo-12B-ArliAI-RPMax-v1.1, разработанной ArliAI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться, в частности, в LM Studio с шаблоном запроса <s>[INST]{prompt}[/INST]. Доступны варианты от исходных весов F16 размером 24,50 ГБ до более компактных форматов Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ4_XS/IQ3_M; размеры файлов варьируются примерно от 5,72 до 24,50 ГБ. Старшие варианты квантизации обеспечивают качество, близкое к исходному, а младшие подходят для систем с ограниченным объёмом оперативной памяти, но могут заметно уступать в качестве. Отдельные варианты оптимизированы для ARM и требуют соответствующей аппаратной поддержки. В README не указаны модальности, языки и размер контекста. Распространение заявлено по лицензии Apache-2.0.

Mistral-Nemo-Instruct-2407-IMat-GGUF — это набор квантизированных версий instruct-модели Mistral-Nemo-Instruct-2407, разработанной Mistral AI и преобразованной в формат GGUF пользователем legraphista. Квантизация выполнена с помощью llama.cpp на основе исходных весов BF16; для ряда вариантов применена IMatrix-калибровка, предназначенная для снижения потерь качества при уменьшении размера модели. Модель предназначена для генерации текста и диалогового использования в локальных приложениях, совместимых с llama.cpp и форматом GGUF. В README заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и других форматов; размеры файлов варьируются примерно от 4,79 до 24,50 ГБ. Основное преимущество набора — выбор между качеством, требованиями к памяти и скоростью локального запуска. IMatrix применяется в некоторых вариантах с более сильным сжатием, включая Q4_K, Q3_K и Q2_K, однако README не содержит результатов сравнительных тестов, точных характеристик архитектуры, числа параметров, размера контекста или требований к оборудованию. Поэтому качество и производительность зависят от выбранного варианта квантизации и среды выполнения. Лицензия модели — Apache-2.0.

Mistral-NeMo-Minitron-8B-Chat — разговорная языковая модель, опубликованная rasyosef и дообученная методом supervised fine-tuning на базе nvidia/Mistral-NeMo-Minitron-8B-Base. Для настройки использовано 32 тысячи пар «инструкция — ответ» из набора teknium/OpenHermes-2.5. Модель построена на плотной архитектуре Mistral с классом MistralForCausalLM, содержит 7,9 млрд параметров и принимает текстовые запросы в формате чата, генерируя текстовые ответы. Контекст — до 8192 токенов. Модель подходит для диалогового общения, ответов на вопросы, выполнения инструкций и генерации текста по запросу. В README приведены результаты оценки следования инструкциям IFEval: 45,83; также указаны результаты Open LLM Leaderboard. Эти оценки не гарантируют качество на конкретных пользовательских задачах. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия указана как other, поэтому перед использованием следует проверить условия лицензии в карточке модели.

makiart/modernbert-large-ft-all-nli — англоязычная модель Sentence Transformers, разработанная makiart путём дообучения answerdotai/ModernBERT-large на наборе all-nli. Она кодирует предложения и абзацы в плотные векторы размерностью 1024, а сходство между ними можно оценивать косинусной мерой. Архитектура включает энкодер ModernBERT-large и mean pooling; модель содержит 394,7 млн параметров и принимает последовательности длиной до 8192 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и подготовки признаков для классификации. В README приведён результат cosine accuracy 0,8809 на TripletEvaluator для all-nli-dev. Оценка качества на других доменах и языках не приводится; модель обучалась на англоязычных данных all-nli, поэтому её пригодность для русского и специализированных текстов не подтверждена. Лицензия в предоставленных сведениях не указана.

shivash/moetest1 — языковая модель на архитектуре Llama, созданная автором репозитория с помощью объединения весов через SLERP и mergekit на основе meta-llama/Llama-3.1-8B-Instruct. Модель предназначена для генерации текста и диалогового общения; метаданные также указывают интерфейс вызова инструментов. Модель содержит 6,9 млрд параметров, принимает текст и выдаёт текст. Указанная длина контекста — 131 072 токена. Репозиторий использует Transformers и формат safetensors. Поддерживаемые языки отдельно не обозначены. Сведений о лицензии в предоставленных данных нет.

Moko-DARE — объединённая языковая модель на архитектуре Mistral, созданная Azazelle с помощью mergekit и метода DARE TIES. В основе объединения лежит mistralai/Mistral-7B-v0.1; также использованы Open-Orca/Mistral-7B-OpenOrca, akjindal53244/Mistral-7B-v0.1-Open-Platypus и WizardLM/WizardMath-7B-V1.1. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев, включая задачи с математическими рассуждениями и следованием инструкциям, унаследованные от компонентов объединения. Доступна в формате safetensors для Transformers. Лицензия — CC BY 4.0.

bigscience/mt0-large — мультиязычная модель семейства mT0, разработанная BigScience. Это дообученная на смеси задач xP3 модель mT5-large с архитектурой MT5ForConditionalGeneration и примерно 608,4 млн параметров; она принимает текст и генерирует текстовый ответ. Модель предназначена для выполнения инструкций на естественном языке и переноса на незнакомые задачи в режиме zero-shot, в том числе для перевода, ответов на вопросы, классификации тональности и создания текстов. Модель обучалась на данных mC4 и xP3 и поддерживает широкий набор языков; карточка перечисляет 21 язык, включая английский, французский, немецкий, испанский, арабский, китайский японский и хинди, а также приводит языковые теги для дополнительных языков. Доступны веса PyTorch, Safetensors и ONNX. Лицензия — Apache-2.0. Результаты зависят от формулировки запроса: инструкции стоит задавать явно, обозначая границу входного текста и желаемый язык ответа. Как генеративная модель, она может выдавать неточные ответы; качество на конкретном языке или задаче может различаться.

mT5-large — многоязычная модель Google на архитектуре T5 для преобразования текста в текст. Она содержит около 608,4 млн параметров и предварительно обучена на корпусе mC4, охватывающем 101 язык. Для выполнения прикладных задач модель необходимо дообучить на соответствующих данных. Модель предназначена как основа для последующей настройки под задачи генерации и преобразования текста, например перевода, суммаризации и ответов на вопросы. Она поддерживает многоязычные сценарии; среди языков корпуса есть русский и английский. В репозитории доступны веса PyTorch, TensorFlow и Flax. Лицензия — Apache-2.0.

Nemotron-Mini-4B-Instruct-GGUF — это набор GGUF-квантизаций инструкционной языковой модели Nemotron-Mini-4B-Instruct, разработанной NVIDIA и квантизированной bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локального инференса, в том числе через LM Studio. Указан английский язык; поддерживается текстовая модальность. Формат запроса требует специальных маркеров для системных, пользовательских и ассистентских сообщений. Доступны варианты от исходных весов F16 размером 8,39 ГБ до компактных квантизаций IQ3_M размером 2,18 ГБ. Предлагаются форматы Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и другие, включая варианты, оптимизированные для ARM-процессоров. Некоторые сборки используют Q8_0 для embedding- и output-весов, что может улучшать сохранение качества. Ключевое преимущество набора — выбор между качеством, размером и требованиями к памяти; ограничение — снижение качества при более агрессивной квантизации. Сведения о размере контекста и архитектуре базовой модели в README не указаны. Модель распространяется по лицензии NVIDIA Community Model License; условия следует уточнять в документе лицензии NVIDIA.

Это модель распознавания сущностей на основе BERT, разработанная авторами репозитория fef2 и дообученная поверх DeepPavlov/rubert-base-cased. Она размечает в русском тексте учётные данные (логины, пароли, токены и секретные ключи), персональные данные (ФИО, организации и локации) и номера договоров. Основной сценарий — обнаружение чувствительных фрагментов в пользовательских сообщениях и конфигурациях для их маскирования перед передачей внешней LLM. Модель использует архитектуру BertForTokenClassification с 205,1 млн параметров, контекстом до 512 токенов и 17 BIO-метками для восьми типов сущностей. Репозиторий также содержит детерминированный regex-слой; опубликованные показатели покрытия учётных данных относятся к объединению NER и regex, а сама NER предназначена дополнять регулярные выражения. Модель распространяется по лицензии Apache-2.0.

Это GGUF-квантизация модели Nemotron-Cascade-2-30B-A3B, разработанной NVIDIA, подготовленная пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста общего назначения и задач, где важны рассуждения; в метаданных также указано обучение с применением SFT и RL. Доступны варианты от BF16 до различных уровней квантования GGUF, что позволяет выбирать между качеством, размером файлов и требованиями к памяти. Известно, что модель относится к семейству Nemotron-Cascade-2 и имеет обозначение 30B-A3B, однако подробности архитектуры, фактическое число активируемых параметров, размер контекста и поддерживаемые модальности в README не указаны. Заявлен английский язык. Модель можно запускать через llama.cpp, LM Studio, koboldcpp, Jan AI и другие совместимые инструменты; для работы может потребоваться их обновлённая версия с поддержкой этой архитектуры. Более сильные варианты квантования обеспечивают лучшее сохранение качества, а компактные варианты снижают требования к оперативной памяти, но могут заметнее ухудшать результаты. Использование регулируется NVIDIA Open Model License; в карточке указана лицензия other и приведена ссылка на условия NVIDIA. Конкретные ограничения лицензии, результаты benchmark-тестов и подробные сведения о сильных и слабых сторонах исходной модели в README не приведены.

OpenHermes-7B-Symbolic-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная из mistralai/Mistral-7B-Instruct-v0.1 и hedronstone/OpenHermes-7B-Symbolic методом SLERP. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и ответы на инструкции и диалоговые запросы; заявленная длина контекста — 32 768 токенов. Модель принимает текст и выдаёт текст. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. Карточка описывает состав и способ объединения моделей, но не приводит сравнительных оценок качества или специальных ограничений.

Ornith-1.5-9B-GGUF — это набор квантованных форматов GGUF для модели Ornith-1.5-9B, подготовленный пользователем NANI-Nithin на основе базовой модели ornith-ai. Модель относится к семейству Qwen3.5 и предназначена для запуска локального текстового вывода в llama.cpp, LM Studio, Ollama с импортом GGUF, KoboldCpp и других совместимых средах. Базовая модель содержит 9 миллиардов параметров и использует плотную архитектуру без маршрутизируемых экспертов: 32 трансформерных слоя, гибридное внимание с линейным механизмом Gated DeltaNet и полноформатным вниманием, а также позиционное кодирование MRoPE. Представленные файлы предназначены только для работы с текстом. В метаданных указан английский язык; размер контекста в README не указан. Доступны стандартные и IQ-квантизации от 2- до 8-битного уровня. Q2_K и IQ2_M экономят максимум памяти, Q4_K_M предлагают компромисс между качеством и размером, а Q8_0 обеспечивают наивысшее качество среди вариантов репозитория. Квантизация уменьшает требования к памяти, но может снижать точность по сравнению с исходными весами. README также сообщает, что заявленный в исходной конфигурации слой MTP для предсказания следующего токена отсутствует в опубликованных весах, поэтому метаданные GGUF были исправлены в соответствии с фактической структурой модели. Лицензия — Apache-2.0.

Ornstein-27B-v2-i1-GGUF — это квантованная версия модели Ornstein-27B-v2, разработанной DJLougen и преобразованной в формат GGUF пользователем mradermacher. Модель относится к семейству Qwen3.5 и предназначена для локального запуска с использованием совместимых инструментов, поддерживающих GGUF. По данным карточки, модель ориентирована на диалоговые сценарии, рассуждения и задачи image-text-to-text, то есть может работать с текстом и изображениями. Заявлен английский язык. Размер исходной модели составляет 27B параметров, однако сведения о точной архитектуре, максимальной длине контекста и фактическом наборе поддерживаемых модальностей в карточке не приведены. Репозиторий содержит набор вариантов квантования с разными компромиссами между размером, скоростью и качеством: от примерно 7,2 до 22,2 ГБ. В частности, Q4_K_M отмечен как быстрый и рекомендуемый вариант, а Q4_K_S — как оптимальный по сочетанию размера, скорости и качества; наиболее низкие уровни квантования могут заметно снижать качество ответов. Условия использования унаследованы от указанной лицензии Apache-2.0.

Карточка модели JaehyeokLee/preliminary_5m_checkpoint_epoch_1_step_320 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/preliminary_one_source_infonce_checkpoint_epoch_1_step_150 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/preliminary_random_gist_checkpoint_epoch_1_step_190 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Quyen-Plus-v0.1 — диалоговая языковая модель серии Quyen, разработанной авторами модели на основе семейства Qwen1.5. Это плотная авторегрессионная модель архитектуры Qwen2ForCausalLM примерно с 7,1 млрд параметров и контекстом до 32 768 токенов. Она принимает текст и генерирует текст, используя шаблон диалога ChatML. Модель предназначена для диалоговых ответов и помощи с текстовыми запросами. Серия Quyen обучалась с использованием SFT и DPO на наборах OpenHermes-2.5, Capybara, Orca DPO и distilabel-capybara-dpo, а также на закрытых данных. В карточке приведены отдельные результаты тестов, но полный набор результатов и бенчмарков не представлен. В метаданных указана лицензия other, поэтому конкретные условия использования следует сверить с лицензией и файлами репозитория. Модель опубликована в формате Safetensors и доступна через Transformers.

QVikhr-2.5-1.5B-Instruct-SMPO — русско-английская инструктивная языковая модель команды Vikhr, разработанная на основе Vikhr-Qwen-2.5-1.5B-Instruct. Модель дообучена на русскоязычном датасете GrandMaster-PRO-MAX с применением SMPO (Simple Margin Preference Optimization) для улучшения ответов на инструкции и диалоговых ответов. Модель использует плотную архитектуру Qwen2 с 1,5 млрд параметров и контекстом до 32 768 токенов. Она принимает текст и генерирует текст, поддерживает русский и английский языки; карточка также указывает интерфейс вызова инструментов. Подходит для диалогов, ответов на вопросы и генерации текста, особенно на русском языке. Доступна по лицензии Apache-2.0. README перечисляет квантованные варианты GGUF и MLX с разрядностью 4 и 8 бит.

CultriX/Qwen2.5-14B-Brocav3 — объединённая языковая модель на основе семейства Qwen2.5, созданная CultriX с помощью mergekit. В качестве базовой модели использована CultriX/Qwen2.5-14B-Wernickev3; при объединении также задействованы математические, диалоговые и другие варианты Qwen2.5-14B. Для слияния применён метод della_linear. Модель предназначена для генерации текста и диалогового общения. Её можно использовать для ответов на вопросы, составления текстов и математических запросов. Размер модели — 14 млрд параметров, архитектура — плотная Qwen2ForCausalLM; заявленная длина контекста составляет до 131 072 токенов. Модель работает через библиотеку Transformers и распространяется в формате safetensors. Карточка не описывает отдельные результаты оценки качества или специальные ограничения поведения. Лицензия в предоставленных данных не указана.

BenevolenceMessiah/Qwen2.5-72B-2x-Instruct-TIES-v1.0 — объединённая плотная языковая модель семейства Qwen2.5, созданная методом TIES с помощью mergekit. В качестве основы использована Qwen/Qwen2.5-72B; в объединение также вошли Rombos-LLM-V2.5-Qwen-72b и Dracarys2-72B-Instruct. Модель содержит 71,5 млрд параметров и имеет заявленное контекстное окно 131 072 токена. Модель предназначена для генерации текста и диалогового взаимодействия; в метаданных также отмечен интерфейс вызова инструментов. Её можно применять для составления ответов, продолжения текста и сценариев чат-ассистента. README не уточняет специальные преимущества объединения, а сведения о языках обучения и целевых сценариях ограничены. Файлы представлены в формате Safetensors и предназначены для Transformers. Лицензия в предоставленных данных не указана.

mlx-community/Qwen2.5-72B-Instruct-8bit — 8-битная версия модели Qwen2.5-72B-Instruct, подготовленная сообществом mlx-community из Qwen/Qwen2.5-72B-Instruct для формата MLX с помощью mlx-lm 0.18.1. Это плотная языковая модель на 71,5 млрд параметров с архитектурой Qwen2 и контекстом до 32 768 токенов. Модель предназначена для диалоговой генерации текста и интерфейса вызова инструментов. Формат MLX ориентирован на запуск с mlx-lm. В метаданных указан английский язык; иных языков карточка не подтверждает. Лицензия обозначена как other, поэтому конкретные условия использования следует проверять в материалах репозитория.

evolveon/Qwen2.5-7B-Instruct-abliterated — разговорная языковая модель, созданная evolveon на основе Qwen/Qwen2.5-7B-Instruct с применением abliteration. Она предназначена для диалогов и генерации текста, включая ответы на запросы пользователя; метаданные также отмечают интерфейс вызова инструментов. Модель имеет плотную архитектуру Qwen2ForCausalLM и 7,1 млрд параметров, принимает текст и выдаёт текст. Заявленная длина контекста — 32 768 токенов. В тегах указана поддержка китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. По описанию автора, версия создана как uncensored-вариант базовой модели с помощью abliteration; метод и результат отдельно не оценены в карточке. Репозиторий содержит веса safetensors для библиотеки Transformers. Лицензия — Apache-2.0.

stefancosma/Qwen3-14B-Instruct-Q4_K_M-GGUF — это квантованная версия языковой модели OpenPipe/Qwen3-14B-Instruct, преобразованная в формат GGUF с использованием llama.cpp и проекта GGUF-my-repo. Модель предназначена для генерации текста и диалоговых сценариев, включая запуск локально через llama.cpp в режиме командной строки или серверном режиме. Модель содержит около 14 миллиардов параметров и использует квантование Q4_K_M, что уменьшает требования к памяти по сравнению с полноразмерными весами, но может сопровождаться некоторой потерей точности. Это текстовая модель без заявленной поддержки изображений или других модальностей. В README не указаны поддерживаемые языки, максимальная длина контекста, результаты оценивания или специализированные сценарии применения. Для работы требуется совместимое окружение llama.cpp; поддерживаются запуск через CLI и сервер, а также аппаратные варианты сборки, включая CUDA для GPU Nvidia. Модель распространяется по лицензии Apache 2.0. Подробные характеристики и ограничения исходной модели следует уточнять в карточке OpenPipe/Qwen3-14B-Instruct.

mlx-community/Qwen3-235B-A22B-4bit — это 4-битная версия модели Qwen3-235B-A22B, преобразованная в формат MLX сообществом mlx-community с использованием mlx-lm 0.24.0. Исходную модель разработала команда Qwen; README указывает базовую модель Qwen/Qwen3-235B-A22B. Модель предназначена для генерации текста и может использоваться через библиотеку mlx-lm, в том числе в диалоговом режиме с применением chat template. Указаны общий размер 235B параметров и обозначение A22B, однако подробности архитектуры, поддерживаемые языки, модальности и размер контекста в README не приведены. Ключевое преимущество этой версии — 4-битное представление и адаптация к MLX, что ориентировано на запуск в совместимой MLX-среде; ограничения производительности, качества и требований к оборудованию не описаны. Модель распространяется по лицензии Apache-2.0.