I.3Извлечение и структурирование данных

psikosen/canopy-258m-r3-v4 — компактная генеративная модель семейства Canopy, представленная как модель для рассуждений на периферийных устройствах и автоматизации браузера. В README описана архитектура рекуррентной смеси экспертов (MoE), однако метаданные указывают класс CanopyForCausalLM и 136,8 млн параметров; поэтому размер и точные архитектурные детали в источниках расходятся. Согласно README, модель ориентирована на генерацию текста, многошаговые рассуждения и выполнение действий в браузере, включая заполнение форм и цепочки действий. В карточке заявлены ограничение памяти KV-кэша при длинных последовательностях и ускорение генерации и браузерных операций; эти показатели приведены самим автором и независимая проверка в предоставленных данных отсутствует. Метаданные указывают английский язык и поддержку чата и кода. Модель распространяется под лицензией Apache-2.0.

Chocolatine-2-4B-Instruct-DPO-v2.1 — плотная языковая модель на архитектуре Qwen3, разработанная Jonathan Pacifico и дообученная на базе Qwen/Qwen3-4B-Instruct-2507. В модели 3,7 млрд параметров; она принимает текст и генерирует текст, поддерживает контекст до 262 144 токенов и работает в режиме без явных цепочек рассуждений. Веса представлены в формате safetensors, библиотека для работы — Transformers. Модель предназначена для диалогов, следования инструкциям и решения задач на французском языке при сохранении возможностей на английском и других языках. В постобучении использованы DPO на французских предпочтениях и слияние моделей методом TIES; автор сообщает об улучшениях на протестированных французских бенчмарках и стабильных результатах на английских. Подходит для локального запуска; доступны отдельные квантованные варианты GGUF и MLX. В README указано, что у модели нет встроенного механизма модерации. Она не формирует явные трассы рассуждений. Лицензия — Apache-2.0.

Cohere Transcribe — открытая модель распознавания речи с аудиовходом и текстовым выходом, разработанная Cohere и Cohere Labs. Это специализированная плотная модель архитектуры Cohere ASR размером 2 млрд параметров, обученная с нуля для эффективной транскрипции. Она поддерживает 14 языков: арабский, немецкий, греческий, английский, испанский, французский, итальянский, японский, корейский, нидерландский, польский, португальский, вьетнамский и китайский. Модель доступна через Transformers и подходит для локального распознавания, а для онлайн-сервинга в README рекомендуется vLLM. По данным разработчиков, модель обеспечивает высокую точность транскрипции на поддерживаемых языках и может работать до трёх раз быстрее других специализированных ASR-моделей сопоставимого размера. Лучше всего она работает с аудио на одном заранее выбранном языке: автоматического определения языка нет, а переключение языков в речи обрабатывается непоследовательно. Модель не формирует временные метки и не выполняет диаризацию; на тишине и фоновых звуках может выдавать галлюцинации, поэтому для таких записей полезен предварительный VAD или шумовой порог. Лицензия — Apache-2.0.

Это квантованная версия Cohere Transcribe, разработанная на основе модели CohereLabs/cohere-transcribe-03-2026. Она предназначена для автоматического распознавания речи и транскрибации аудио на 14 языках. Архитектура включает Conformer-энкодер на 48 слоёв и Transformer-декодер на 8 слоёв; модель содержит около 2 млрд параметров и использует токенизатор SentencePiece с размером словаря 16 384. Квантование NVFP4 W4A16 представляет веса в формате NVIDIA FP4, а активации — в BF16. Модель принимает аудио и выдаёт текстовую транскрипцию. Поддерживаемые языки: арабский, немецкий, греческий, английский, испанский, французский, итальянский, японский, корейский, нидерландский, польский, португальский, вьетнамский и китайский (мандаринский). Репозиторий распространяется по лицензии Apache-2.0. Карточка описывает запуск с vLLM и Transformers; фактическая точность и качество на конкретных аудиоданных в предоставленных сведениях не приводятся.

CollectiveLM-Falcon-3-7B-GGUF — это GGUF-квантизированная версия языковой модели CollectiveLM-Falcon-3-7B, опубликованная и квантизированная bartowski на основе модели Locutusque. Модель предназначена для генерации текста и может использоваться в локальных приложениях и интерфейсах, поддерживающих llama.cpp, включая LM Studio. Она обучалась на датасете Locutusque/Collective-Evol-Instruct-v0.1 и рассчитана на англоязычные задачи. Модель относится к классу Falcon и содержит около 7 миллиардов параметров. В репозитории представлены варианты от полноточного F32 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и Q2, включая форматы K-quants и IQ-quants. Квантизация выполнена с использованием imatrix в llama.cpp; это позволяет выбирать компромисс между качеством, размером файла и требованиями к памяти. Рекомендуемыми указаны варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS, при этом Q4_K_M описан как стандартный вариант для большинства сценариев. Сильными сторонами являются возможность локального запуска, широкий выбор размеров и сохранение высокого качества у старших вариантов квантизации. Ограничения включают ориентацию на английский язык, отсутствие в README сведений о длине контекста, точной архитектуре, мультимодальности, результатах оценки и практических ограничениях применения. Для работы рекомендуется использовать шаблон промпта с тегами system, user и assistant, приведённый в README. Лицензия указана как other; её конкретные условия в предоставленных данных не раскрыты.

Citaman/command-r-8-layer — созданная с помощью mergekit языковая модель на архитектуре CohereForCausalLM, полученная слиянием SLERP слоёв модели Citaman/command-r-9-layer. В репозитории указаны веса в формате safetensors и тип данных bfloat16; размер модели составляет 8,7 млрд параметров, длина контекста — 8192 токена. Модель предназначена для генерации текста и диалоговых сценариев; метаданные также указывают интерфейс вызова инструментов. Она принимает текст и выдаёт текст. Сведения о поддерживаемых естественных языках и специализированных областях применения отсутствуют. Лицензия в предоставленных данных не указана.

nicolasembleton/context-1-GGUF — это набор GGUF-квантизированных версий модели Context-1, первоначально разработанной Chroma. Сборки предназначены для запуска через llama.cpp, LM Studio, llama-cpp-python и другие совместимые движки, включая локальный инференс и приложения, поддерживающие формат GGUF. Context-1 — каузальная языковая модель для генерации текста с архитектурой GptOssForCausalLM и Mixture-of-Experts. Она содержит около 20,9 млрд параметров, из которых при обработке каждого токена активны примерно 3 млрд: выбираются 4 из 32 экспертов. Размер скрытого представления составляет 2880. В карточке указана поддержка английского языка и текстовый сценарий применения; сведения о длине контекста и мультимодальности отсутствуют. Ключевое преимущество модели — сочетание большого общего числа параметров с меньшим числом активных параметров на токен, что может повысить эффективность инференса. Квантизация выполнена из весов F16 с использованием calibration imatrix; доступны варианты K-quant и I-quant. При этом квантизация может снижать точность по сравнению с исходной моделью, а требования к памяти и производительности зависят от выбранного варианта. Модель распространяется по лицензии Apache-2.0.

tomaarsen/csr-mxbai-embed-large-v1-nq — англоязычный CSR sparse encoder, дообученный на Natural Questions на базе mixedbread-ai/mxbai-embed-large-v1 с использованием Sentence Transformers. Модель преобразует запросы, предложения и абзацы в разреженные векторы размерностью 4096; векторы могут содержать до 256 активных измерений. Для сравнения используется косинусное сходство. Модель предназначена для семантического поиска и разреженного поиска релевантных документов по запросу. Её обучали на 99 000 примерах Natural Questions; максимальная длина входной последовательности — 512 токенов. Карточка приводит результаты оценки поиска на наборах nq_eval с разным числом активных измерений. Это производная BERT-модели с 433,9 млн параметров, доступная в формате safetensors. Лицензия — Apache-2.0. Модель рассчитана на английский язык; качество на других языках не подтверждено. Показатели в карточке получены на Natural Questions, поэтому они не гарантируют такое же качество на других предметных областях и поисковых коллекциях.

Это англоязычный разреженный CSR-энкодер, созданный на базе mixedbread-ai/mxbai-embed-large-v1 и дообученный на наборе Natural Questions с использованием Sentence Transformers. Модель предназначена для преобразования запросов и текстовых фрагментов в векторы для семантического поиска и разреженного информационного поиска. Архитектура основана на BERT; размерность векторного пространства — 4096, при этом в выходе может быть не более 256 активных измерений. Для сравнения векторов используется косинусное сходство. Максимальная длина входа составляет 512 токенов. Модель содержит около 433,9 млн параметров и распространяется в формате safetensors. Карточка приводит результаты оценивания на небольших наборах для поиска, включая Natural Questions и MS MARCO; точность зависит от числа активных измерений. Модель поддерживает английский язык и распространяется по лицензии Apache-2.0.

cogito-v1-preview-llama-70B-GGUF — квантованная версия языковой модели cogito-v1-preview-llama-70B, разработанной deepcogito и подготовленной пользователем bartowski в формате GGUF с использованием llama.cpp. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Это текстовая autoregressive-модель семейства Llama размером 70B параметров. В репозитории представлены варианты квантования Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4 и Q3, различающиеся размером файлов, требованиями к памяти и качеством вывода. Для квантования применялся imatrix; варианты Q6_K, Q5 и Q4 отмечены как рекомендуемые, а Q3 рассчитаны на системы с ограниченным объёмом оперативной памяти. Доступны как цельные файлы, так и разделённые варианты. Сильная сторона модели — возможность локального запуска крупной 70B-модели при выборе подходящего уровня квантования, однако даже наиболее компактные варианты требуют значительных ресурсов, а снижение точности квантования уменьшает качество. README не содержит сведений о поддерживаемых языках, длине контекста, мультимодальности, специализированных сценариях, результатах тестирования или дополнительных ограничениях. Указанная лицензия — llama3.1.

DevQuasar/deepseek-ai.DeepSeek-V3.2-GGUF — это квантизированная версия модели DeepSeek-V3.2, разработанной командой deepseek-ai и опубликованной в формате GGUF сообществом DevQuasar. Модель предназначена для генерации текста и совместима со сценариями, поддерживающими этот формат. Ключевые характеристики архитектуры, размер, набор поддерживаемых языков, длина контекста и конкретные варианты квантизации в предоставленном README не указаны. Поэтому нельзя достоверно оценить её производительность, требования к ресурсам, сильные стороны и ограничения по сравнению с исходной моделью. Условия лицензирования также не приведены; перед использованием необходимо проверить лицензию базовой модели DeepSeek-V3.2 и условия распространения данной квантизированной версии.

DeepSeek-V4-Flash-0731-OptiQ-2bit — это 2-битная mixed-precision-квантизация базовой модели DeepSeek-V4-Flash-0731, подготовленная сообществом mlx-community с помощью MLX-native toolkit mlx-optiq. Модель предназначена для локального запуска и генерации текста на компьютерах Apple Silicon без PyTorch и облачных сервисов, включая задачи следования длинным спецификациям, рассуждений по текстовым правилам и генерации программного кода. Модель использует разреженную архитектуру Mixture-of-Experts с 304 млрд параметров, 43 слоями и 256 маршрутизируемыми экспертами, из которых для каждого токена активны 6. Контекстное окно составляет 1 048 576 токенов. Маршрутизируемые эксперты квантизированы до 2 бит, attention — до 6 бит, shared expert, embeddings и LM head — до 8 бит, MTP head — до 3 бит; итоговое значение составляет 2,43 bits per weight. Размер на диске — около 92,5 ГБ, а при работе маршрутизируемые эксперты потоково считываются с SSD, поэтому в памяти находится примерно 6,5 ГБ. На Mac с M3 Max заявлена скорость около 2,5 токена в секунду. Сильная сторона модели — возможность запустить чрезвычайно крупную MoE-модель на потребительском Apple Silicon с объёмом оперативной памяти от 16 ГБ. Она демонстрировала способность следовать длинной спецификации и создавать работоспособный одностраничный HTML-код. Ограничения связаны с экстремальной 2-битной квантизацией: она приводит к потере точности, а скорость зависит от производительности SSD. Показатели по стандартному набору бенчмарков для этой версии не опубликованы, поэтому для задач, где критична точность, рекомендуется использовать веса bf16 или более высокобитную квантизацию. Модель распространяется по лицензии MIT.

mlx-community/DeepSeek-V4-Flash-8bit — это версия модели DeepSeek-V4-Flash, опубликованная сообществом mlx-community и предназначенная для генерации текста. Модель подготовлена для работы с библиотекой MLX и запуска через mlx-lm; в README также указана поддержка шаблона диалога, если он доступен в токенизаторе. Известно, что модель использует 8-битное представление и относится к категории text-generation. Она может применяться для диалоговой генерации и других задач создания текста, однако сведения об архитектуре, количестве параметров, размере контекста, поддерживаемых языках и модальностях в README отсутствуют. К сильным сторонам относятся интеграция с MLX и возможность локального запуска через mlx-lm. Ограничения и точные требования к аппаратному обеспечению не указаны. Лицензия в предоставленных материалах не обозначена.

DMetaSoul разработала Dmeta-embedding-zh-small — компактную китайскоязычную модель для получения текстовых эмбеддингов. Это дистиллированная версия Dmeta-embedding-zh на архитектуре BERT из 8 слоёв; в метаданных указаны 91,7 млн параметров и контекст до 1024 токенов. Модель предназначена для поиска, семантического сопоставления текстов, вопросно-ответных систем, интеллектуальной поддержки клиентов и приложений с RAG. Её можно загружать через Transformers, Sentence-Transformers и LangChain. По сравнению с исходной моделью размер уменьшен примерно на треть, а скорость вывода в приведённом тесте выросла примерно на 30%; средний результат MTEB снизился примерно на 1,4 пункта, с наибольшими потерями в задачах поиска и семантического сходства. Модель принимает текст и выдаёт векторные представления. Распространяется по лицензии Apache-2.0.

Это модель EVA-02 в варианте CLIP, опубликованная организацией timm (PyTorch Image Models). Она предназначена для классификации изображений без примеров обучения на заданных категориях: изображение сопоставляется с текстовыми описаниями классов, а модель оценивает их соответствие. Модель использует архитектуру EVA-02 с патчами 14×14 и CLIP-подобное совместное представление изображений и текста; входной размер изображения — 224 пикселя. В названии указаны обучение на LAION-2B и вариант обучения s9b продолжительностью 144k шагов. Модель принимает изображения и текстовые метки или описания, выдаёт оценки соответствия для выбора наиболее подходящей категории. Для использования предусмотрена библиотека OpenCLIP. Репозиторий распространяется по лицензии MIT. Карточка не приводит конкретный перечень поддерживаемых естественных языков; качество зависит от формулировки текстовых меток и состава данных обучения.

Falcon3-3B-Instruct-GGUF — это набор GGUF-квантизаций инструкционной языковой модели Falcon3-3B-Instruct, разработанной Technology Innovation Institute (TII) и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через llama.cpp и LM Studio. Для взаимодействия используется формат с ролями system, user и assistant. Модель имеет 3 млрд параметров, относится к текстовым моделям и поддерживает английский, французский, испанский и португальский языки. Доступны варианты от F16 до низкобитных Q2/Q3/Q4/Q5/Q6/Q8 и IQ-квантизаций; размеры файлов составляют примерно от 1,27 до 6,46 ГБ. Квантизация выполнена с использованием imatrix в llama.cpp, а README отдельно отмечает исправление токенизатора. Сильная сторона набора — возможность выбрать баланс между качеством, размером и требованиями к оперативной памяти; наиболее качественными и рекомендуемыми указаны варианты Q6_K_L, Q6_K, Q5_K и Q4_K. Низкобитные варианты экономичнее, но могут заметно терять качество. Сведения о длине контекста и детальной архитектуре в README не указаны. Модель распространяется по лицензии Falcon LLM License; условия доступны по ссылке, указанной в карточке.

Falcon-H1-7B-Base — базовая авторегрессионная языковая модель семейства Falcon-H1 от TII (Technology Innovation Institute). Она использует гибридную архитектуру Transformer и Mamba с декодером только для причинной генерации текста и содержит 6,4 млрд параметров. Модель предназначена для генерации и продолжения текста, а также для широкого круга языковых задач, включая рассуждения. Заявлена поддержка английского и многоязычного ввода; теги карточки перечисляют арабский, чешский, немецкий, английский, испанский, французский, хинди, итальянский, японский, корейский, нидерландский, польский, португальский, румынский, русский, шведский, урду и китайский. Родная длина контекста — 262 144 токена. Для запуска предлагаются Transformers, vLLM и llama.cpp. В README приведены результаты сравнительных оценок, включая BBH и MMLU. Модель распространяется по лицензии Falcon-LLM License; метаданные Hugging Face обозначают лицензию как other, поэтому перед использованием следует ознакомиться с условиями Falcon-LLM License. Это базовая модель, а не специализированный чат-ассистент; качество ответов в конкретных приложениях зависит от настройки и сценария использования.

Карточка модели sultthegreat/falcon-mamba-7b-instruct на Hugging Face совпадает с карточкой tiiuae/falcon-mamba-7b-instruct, поэтому описание составлено по ней. FalconMamba-7B-Instruct — англоязычная авторегрессионная языковая модель TII на архитектуре Mamba с причинным декодером. Она дообучена на инструкционных данных поверх Falcon-Mamba-7B; в метаданных указано 8,9 млрд параметров. Для обучения использовались веб-тексты RefinedWeb, технические материалы, код, математические данные и часть FineWeb-Edu. Модель предназначена для диалогов, выполнения текстовых инструкций и генерации продолжений; работает с текстом и поддерживает генерацию на английском языке. Обучение увеличивало длину контекста с 2 048 до 8 192 токенов. В карточке отмечено, что архитектура Mamba не имеет фиксированного предела дальних зависимостей при инференсе. Для ускорения рекомендуются оптимизированные ядра Mamba; модель также можно запускать в FP16 и 4-битном режиме. Карточка приводит результаты на общих языковых и рассуждательных бенчмарках, включая MMLU, GSM8K и IFEval. Модель выпущена под лицензией TII Falcon-Mamba License 2.0, обозначенной в метаданных как other; перед использованием следует проверить её условия. Карточка описывает преимущественно английское применение и не заявляет специальных возможностей для других языков.

FalconMamba-7B-Instruct — англоязычная авторегрессионная языковая модель TII на архитектуре Mamba с причинным декодером. Она дообучена на инструкционных данных поверх Falcon-Mamba-7B; в метаданных указано 8,9 млрд параметров. Для обучения использовались веб-тексты RefinedWeb, технические материалы, код, математические данные и часть FineWeb-Edu. Модель предназначена для диалогов, выполнения текстовых инструкций и генерации продолжений; работает с текстом и поддерживает генерацию на английском языке. Обучение увеличивало длину контекста с 2 048 до 8 192 токенов. В карточке отмечено, что архитектура Mamba не имеет фиксированного предела дальних зависимостей при инференсе. Для ускорения рекомендуются оптимизированные ядра Mamba; модель также можно запускать в FP16 и 4-битном режиме. Карточка приводит результаты на общих языковых и рассуждательных бенчмарках, включая MMLU, GSM8K и IFEval. Модель выпущена под лицензией TII Falcon-Mamba License 2.0, обозначенной в метаданных как other; перед использованием следует проверить её условия. Карточка описывает преимущественно английское применение и не заявляет специальных возможностей для других языков.

Это конверсия модели distil-whisper/distil-large-v3 в формат CTranslate2, опубликованная Systran. Она предназначена для автоматического распознавания речи и может использоваться в CTranslate2 и проектах на его основе, включая faster-whisper. Веса сохранены в FP16; тип вычислений можно выбрать при загрузке через параметр compute_type. Лицензия репозитория — MIT.

Systran/faster-whisper-tiny.en — конверсия модели OpenAI Whisper tiny.en в формат CTranslate2, подготовленная для запуска в CTranslate2 и проектах на его основе, включая faster-whisper. Модель предназначена для автоматического распознавания речи на английском языке и преобразования аудио в текст. Веса сохранены в FP16; при загрузке тип вычислений можно изменить параметром compute_type в CTranslate2. Репозиторий распространяется по лицензии MIT. Карточка ссылается на исходную модель OpenAI для подробностей о её характеристиках.

Это тестовая версия alignment-tuned модели на базе семейства Llama, дообученной с использованием методов instruction fine-tuning и direct preference optimization (DPO). Она предназначена для генерации текста и выполнения инструкций в диалоговых сценариях. Модель содержит 20,9 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов; в репозитории представлены веса в формате safetensors. В метаданных указан английский язык. Модель разработана автором репозитория 4season. Лицензия — Apache-2.0. Карточка обозначает её как тестовую версию, поэтому качество и пригодность для конкретных задач требуют отдельной проверки.

flammen-mistral-7B — объединённая языковая модель на архитектуре Mistral, созданная с помощью mergekit методом TIES. В качестве базовой использована bardsai/jaskier-7b-dpo-v5.6; в объединение также вошли nbeerbower/bruphin-zeta и Gille/StrangeMerges_16-7B-slerp. Модель содержит 7,1 млрд параметров и имеет контекст до 32 768 токенов. Модель предназначена для генерации текста и ответов на запросы. В карточке приведены результаты Open LLM Leaderboard, включая показатели по задачам рассуждения и продолжения здравого смысла; отдельные сценарии или специализация не заявлены. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0.

chanwit/flux-7b-base-stage-0 — объединённая языковая модель, созданная автором репозитория с помощью mergekit и метода SLERP из chanwit/flux-7b-base-stage-00 и Intel/neural-chat-7b-v3-3. Это плотная авторегрессионная модель архитектуры Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалогов. Она принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. В README описана схема слияния и указано представление весов в bfloat16; метаданные указывают формат safetensors и возможность диалога. Сведений о лицензии и языках в предоставленных источниках нет.

RedHatAI/gemma-3-12b-it-quantized.w4a16 — квантизированная версия мультимодальной модели google/gemma-3-12b-it, разработанная RedHatAI. Модель принимает изображения и текст, а генерирует текст, поэтому предназначена для визуально-текстовых диалогов, анализа изображений, ответов на вопросы по изображениям и других задач, где требуется совместная обработка визуального и текстового контекста. Веса модели квантизированы в INT4, а активации используют FP16; при квантизации визуальная башня, мультимодальный проектор, embedding-слои и lm_head не подвергались изменению. Такой формат снижает требования к памяти и ориентирован на эффективный инференс. Модель подготовлена для работы с vLLM версии 0.8.0 и выше, включая OpenAI-совместимый режим сервинга. В README явно не указаны точный размер контекста, поддерживаемые языки и полный перечень модальностей сверх связки изображение-текст. К сильным сторонам относятся мультимодальные возможности базовой Gemma 3, уменьшенное потребление памяти благодаря INT4-квантизации и возможность производительного развертывания через vLLM. Ограничением является потенциальная потеря точности по сравнению с исходной моделью из-за квантизации; приведенные в README результаты относятся к отдельной конфигурации w8a8 и не позволяют надежно оценить именно вариант w4a16. Лицензия указана как gemma.

MLX-совместимая версия языковой модели openai/gpt-oss-120b, разработанная сообществом mlx-community и сконвертированная из исходной модели с использованием mlx-lm 0.27.0. Модель предназначена для генерации текста и диалоговых сценариев на устройствах и в окружениях, поддерживающих MLX; для работы используются библиотека mlx-lm и соответствующий токенизатор с chat template, если он доступен. Из названия следует, что модель имеет масштаб 120B параметров и представлена в формате MXFP4-Q4, однако README не содержит подробностей об архитектуре, поддерживаемых языках, размере контекста, модальностях, производительности и аппаратных требованиях. Основное преимущество — адаптация модели к экосистеме MLX и возможность локального использования через стандартный интерфейс генерации текста. Ограничения и особенности, связанные с квантизацией MXFP4-Q4, в README не раскрыты. Модель распространяется по лицензии Apache-2.0.

mlx-community/gpt-oss-20b-MXFP4-Q8 — это языковая модель для генерации текста, представленная сообществом mlx-community. Модель конвертирована в формат MLX из openai/gpt-oss-20b с использованием mlx-lm версии 0.27.0. Модель предназначена для сценариев текстовой генерации и запуска через библиотеку mlx-lm, включая диалоговое взаимодействие с применением chat template, если он поддерживается токенизатором. Из README известны размер исходной модели — 20B, формат MLX и обозначение квантования MXFP4-Q8. Сведения о точной архитектуре, поддерживаемых языках, модальностях, размере контекста, результатах оценки, сильных сторонах и ограничениях не указаны. Модель распространяется по лицензии Apache-2.0.

onnx-community/gte-multilingual-base — это ONNX-версия модели Alibaba-NLP/gte-multilingual-base, подготовленная сообществом onnx-community для работы с библиотекой Transformers.js. Модель предназначена для преобразования предложений и документов в векторные представления, которые можно использовать для семантического поиска, retrieval-систем, сопоставления текстов и других задач, основанных на сравнении смысловой близости. Модель работает в режиме feature extraction и формирует эмбеддинги размерностью 768 признаков. В примерах используются mean pooling и нормализация векторов, после чего релевантность текстов оценивается по косинусному сходству. Для поисковых запросов рекомендуется добавлять инструкцию «Represent this sentence for searching relevant passages:». Модель заявлена как мультиязычная, однако README не содержит перечня поддерживаемых языков, сведений об архитектуре, размере исходной модели или максимальной длине контекста. К сильным сторонам относятся возможность выполнять вычисление эмбеддингов непосредственно в JavaScript-среде через Transformers.js и удобная совместимость с ONNX. Ограничение состоит в том, что это модель для представления и сопоставления текстов, а не генеративная языковая модель: README не описывает её возможности по генерации текста, точность на бенчмарках или ограничения по языкам и длине входа. Лицензия в предоставленных данных не указана.

GWQ2b — дообученная языковая модель prithivMLmods на базе Google Gemma 2 2B Instruct. Это декодерный трансформер для генерации текста, с диалоговыми возможностями и контекстом до 8192 токенов; в карточке заявлена поддержка английского языка. Модель дообучена на синтетическом наборе Chain of Continuous Thought и предназначена для ответов на вопросы, суммаризации, рассуждений и следования инструкциям. Модель подходит для создания ответов и кратких изложений, многошаговых рассуждений, а также творческого текста и документации. Вес составляет 2,7 млрд параметров, файлы представлены в формате Safetensors. Лицензия Gemma; условия её использования следует учитывать при развёртывании. Как и другие языковые модели, GWQ2b может выдавать неточные сведения и воспроизводить смещения из данных обучения. Она ограничена контекстом в 8192 токена, а заявленные в README сведения о размере и архитектуре местами противоречат метаданным: для описания использованы параметры из метаданных.

Это квантованный вариант Huihui-Mistral-Small-3.2-24B-Instruct-2506-abliterated, опубликованный пользователем maerong3. Модель была преобразована из исходной версии huihui-ai в формат GGUF с использованием llama.cpp и сервиса GGUF-my-repo. Она предназначена для локального запуска и инференса через llama.cpp, включая режим командной строки и серверный режим. Из доступных данных известно, что модель основана на варианте Mistral Small с 24 миллиардами параметров и имеет инструкционную настройку. Квантование Q4_K_M уменьшает требования к памяти по сравнению с полной версией, что удобно для локального использования, однако может снижать точность по сравнению с более высокоточными вариантами. В карточке заявлена поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского, персидского и ряда других языков. Также модель помечена как abliterated и uncensored, но подробности метода, контекстное окно и фактические мультимодальные возможности не указаны. Модель распространяется по лицензии Apache-2.0. Для запуска рекомендуется llama.cpp; в README приведены примеры использования с контекстом 2048 токенов, но это значение является параметром конкретной команды, а не обязательно максимальным контекстом модели. Данные о преимуществах, ограничениях безопасности, результатах тестирования и точной архитектуре отсутствуют.