II.1Анализ требований и архитектура ПО

ANITA-NEXT-24B-Magistral-2506-VISION-ITA — мультимодальная модель семейства ANITA, разработанная Марко Полиньяно и исследовательской группой SWAP Университета Бари Альдо Моро. Она создана на основе текстовой модели ANITA-NEXT-24B-Magistral-2506-ITA с добавлением зрительных слоёв и процессора Mistral-Small-3.1-24B-Instruct-2503; архитектура — Mistral3, около 23,4 млрд параметров. В карточке указано дообучение SFT с QLoRA и выравнивание DPO, а каталог отмечает слияние моделей. Модель предназначена для диалогов на итальянском и английском языках с анализом изображений, а также для последующей настройки под специальные задачи на итальянском. Она принимает текст и изображения и генерирует текст, включая код. Метаданные указывают контекст 40 960 токенов; README заявляет 128 тыс. токенов, отмечая снижение качества после 40 тыс. Лицензия — Apache-2.0.

nabil-tazi/autotrain-yr729-mb8s3 — модель семейства BERT, созданная дообучением sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 с помощью AutoTrain. Она преобразует текстовые предложения и абзацы в эмбеддинги для вычисления семантического сходства. Модель содержит 124,3 млн параметров, использует библиотеку Sentence Transformers и принимает последовательности длиной до 512 токенов. Базовая модель многоязычная, поэтому эмбеддинги подходят для сравнения текстов на разных языках. Модель можно применять для семантического поиска, сопоставления похожих фраз и кластеризации текстов. В README приведена метрика loss 0,124 на валидации, но без описания датасета и протокола оценки её трудно интерпретировать. Модель распространяется на Hugging Face в формате safetensors; лицензия в предоставленных данных не указана.

BASH-Coder-Mistral-7B-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная объединением Mistral-7B-Instruct-v0.2 и BASH-Coder-Mistral-7B методом SLERP. Она предназначена для генерации текста и ответов на инструкции с дополнительным уклоном в задачи программирования и работу с Bash. Модель построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров; заявленная длина контекста — до 32 768 токенов. Модель принимает текст и генерирует текст. Карточка не сообщает о специальных языках программирования, наборах данных или результатах оценки качества, поэтому преимущество в кодировании нельзя считать подтверждённым для конкретных языков или сценариев. Модель распространяется под лицензией Apache-2.0.

rurupang/bert-base-finetuned-sts — модель на архитектуре BERT, дообученная на базе klue/bert-base на наборе данных KLUE для оценки сходства текстов. Она выдаёт оценку сходства пары текстов как задачу классификации последовательностей. На оценочной выборке указаны Pearsonr 0,8722 и loss 0,4274. Модель содержит 137,8 млн параметров, принимает текстовые входные данные, а контекст ограничен 512 токенами. В карточке указана лицензия не приводится, поэтому условия использования по имеющимся данным определить нельзя.

Это Sentence Transformer на базе google-bert/bert-base-multilingual-uncased, дообученный авторами репозитория на наборе из 10 200 пар текстов. Модель использует архитектуру BERT с усреднением токенных представлений и кодирует предложения и абзацы в плотные векторы размерностью 768; сходство можно оценивать косинусной метрикой. Максимальная длина последовательности — 512 токенов. Модель предназначена для семантического поиска, сравнения сходства предложений, поиска перефразировок, кластеризации и классификации текста на основе эмбеддингов. Многоязычные возможности унаследованы от базового BERT, обученного для 102 языков; примеры обучающих данных в карточке приведены на вьетнамском. Метаданные указывают библиотеку Sentence Transformers и формат Safetensors. Лицензия в предоставленных данных не указана.

Карточка модели godsyy/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

barisaydin/bge-small-en — англоязычная модель эмбеддингов семейства BGE, основанная на архитектуре BERT и содержащая около 40 млн параметров. Она преобразует текст в плотные векторы для поиска, сравнения и других задач, где нужно оценивать смысловую близость текстов. Модель принимает текст и выдаёт векторные представления; максимальная длина контекста — 512 токенов. Модель подходит для семантического поиска, поиска документов по запросу, кластеризации и классификации текста, а также для использования в векторных базах данных и RAG-системах. В задачах поиска README рекомендует добавлять к короткому запросу инструкцию «Represent this sentence for searching relevant passages:», но не добавлять её к документам. README рекомендует перейти на BAAI/bge-small-en-v1.5: в исходной версии распределение сходства менее удобно, поэтому абсолютный порог косинусного сходства не следует трактовать как универсальный критерий. Для фильтрации похожих текстов порог нужно подбирать на своих данных. Лицензия модели — MIT.

BidirLM-270M-Embedding — многоязычная модель-энкодер из семейства BidirLM, разработанного авторами проекта BidirLM и представленного как финальная версия после контрастивного дообучения промежуточной модели BidirLM-270M-Base. В ней около 257 млн параметров; архитектура BidirLM построена на базе Gemma3-270M и использует двунаправленный энкодер. Модель выдаёт векторы размерности 640 с mean pooling. Контекст по архитектуре — до 32 768 токенов; в основном сравнении MTEB использовалась длина до 512 токенов. Модель предназначена для получения текстовых эмбеддингов и поддерживает поиск по смыслу, оценку семантического сходства, кластеризацию, классификацию, переранжирование и поиск параллельных текстов. Также её можно дообучать для классификации последовательностей и токенов, извлечения информации и других прикладных задач. Карточка указывает поддержку более 140 языков; метаданные подтверждают мультиязычность и перечисляют языки, включая английский, немецкий, французский, испанский, арабский и хинди. По данным карточки, модель показывает высокие результаты на мультиязычном MTEB и задачах длинноконтекстного поиска. Для загрузки требуется trust_remote_code=True и совместимая версия Transformers; использование Sentence Transformers автоматически применяет mean pooling. Модель распространяется по лицензии Apache-2.0.

JANGQ-AI представила Bonsai-27b-1bit-JANG — мультимодальную модель на архитектуре Qwen3.5 для диалога с текстом и изображениями. Это плотная модель условной генерации с 27 млрд параметров, полученная дообучением prism-ml/Bonsai-27B-unpacked и преобразованием весов в профиль JANG affine с преимущественно 1-битным хранением текстовых матриц. Поддерживаются чат-шаблон с режимом thinking и интерфейсом вызова инструментов, а также обработка изображений и видео. Модель предназначена для ответов на вопросы по изображениям, диалоговых сценариев и использования инструментов. Текстовые матрицы хранятся в 1-битном формате с группами размера 128; часть визуальных линейных слоёв использует 4-битное хранение, а несовместимые тензоры и некоторые параметры остаются в float16. Для запуска требуется сборка vMLX с поддержкой дискретного JANG-affine и смешанной точности для зрения; стандартный mlx_lm эту схему не поддерживает. В README указана проверка на Apple M5 Max с 128 ГБ объединённой памяти. Лицензия — Apache-2.0.

MaziyarPanahi/codegemma-7b-it-GGUF — это набор файлов модели в формате GGUF для оригинальной модели google/codegemma-7b-it, разработанной Google и преобразованной в GGUF пользователем MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, а также может применяться в локальных приложениях и инструментах, совместимых с GGUF, включая llama.cpp, LM Studio, GPT4All и llama-cpp-python. В репозитории представлены варианты квантизации с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файла, требованиями к памяти и качеством генерации. Указан размер базовой модели — 7B параметров; формат GGUF ориентирован на эффективный запуск, в том числе с аппаратным ускорением. README не содержит сведений о поддерживаемых языках, длине контекста, точной архитектуре или специализированных возможностях CodeGemma, поэтому эти характеристики нельзя достоверно уточнить. Основные преимущества — наличие нескольких уровней квантизации и совместимость с широким набором локальных клиентов и библиотек. Ограничения связаны с потенциальной потерей качества при использовании более агрессивной квантизации, а также с отсутствием в карточке подробных оценок и характеристик. В метаданных указана лицензия Gemma.

comprehend_it-base — англоязычная модель Knowledgator на базе энкодера DeBERTaV3-base, обученная на наборах для вывода на естественном языке и классификации текста. Она предназначена прежде всего для классификации по заданным пользователем категориям в zero-shot режиме: можно передать текст и список меток, не дообучая модель на этих категориях. Также модель применяют для ранжирования результатов поиска и задач извлечения информации, включая распознавание именованных сущностей, извлечение отношений, связывание сущностей и ответы на вопросы. Модель использует архитектуру DeBERTa-v2 для классификации последовательностей, содержит 211,6 млн параметров и принимает контекст до 512 токенов. В карточке заявлено, что на нескольких наборах классификации она превосходила BART-large-mnli в zero-shot сценарии при почти втрое меньшем размере; также приведены результаты для нескольких наборов данных. Доступны веса PyTorch, библиотека Transformers и лицензия Apache-2.0. Модель рассчитана на английский язык. Как энкодер-классификатор, она выдаёт метки и оценки классов, а не генерирует свободный текст. Качество зависит от формулировок текста и кандидатов-меток; контекст ограничен 512 токенами, а README не приводит сравнительных результатов для всех заявленных задач извлечения информации.

DeepSeek-Coder-V2-Lite-Instruct — языковая модель для кода от DeepSeek, построенная на архитектуре Mixture-of-Experts семейства DeepSeek-V2. Модель содержит 16 млрд параметров, из которых при работе активны около 2,4 млрд; метаданные каталога указывают 2,5 млрд параметров. Это вариант Instruct для диалогового взаимодействия и выполнения инструкций, доступный в формате safetensors и поддерживаемый библиотекой Transformers. Модель предназначена для генерации и дополнения кода, вставки фрагментов в существующий код и ответов на запросы в формате чата. Семейство обучалось на дополнительных 6 трлн токенов и расширило поддержку до 338 языков программирования; README указывает контекст 128K токенов, а метаданные — 163 840 токенов. Также заявлено улучшение математических рассуждений при сохранении возможностей для общих языковых задач. Для локального инференса в BF16 README приводит требование 8 GPU по 80 ГБ, что делает такую конфигурацию требовательной к ресурсам. В метаданных лицензия обозначена как other; конкретные условия следует проверить в файлах лицензии репозитория.

Карточка модели SAIFIINDUSTRIES/DeepSeek-R1-Distill-Qwen-1.5B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

Карточка модели densafaradenza/DeepSeek-R1-Distill-Qwen-32B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

Dolphin 3.0 Qwen 2.5 0.5B — диалоговая языковая модель, дообученная Eric Hartford, Ben Gitter, BlouseJury и Cognitive Computations на базе Qwen/Qwen2.5-0.5B. Она предназначена для локального использования в качестве универсального помощника и может отвечать на вопросы, помогать с кодом и математикой, а также работать с вызовами функций и агентными сценариями. Модель использует плотную архитектуру Qwen2ForCausalLM, содержит 494 млн параметров и поддерживает контекст до 32 768 токенов. Для общения применяется шаблон ChatML; системный промпт позволяет задавать тон и правила поведения. В обучении использовались наборы данных для инструкционного диалога, программирования, математики и вызова функций. Карточка модели описывает англоязычное назначение. Веса опубликованы в формате safetensors по лицензии Apache-2.0. Это компактная модель, поэтому её ответы и сложные рассуждения могут уступать более крупным моделям; примеры выводов и результаты оценивания в карточке не представлены.

Functionary Small v3.1 — разговорная языковая модель с поддержкой вызова функций и плагинов, разработанная meetkai на основе Meta-Llama-3.1-8B-Instruct. Это плотная архитектура LlamaForCausalLM на 7,5 млрд параметров с контекстом до 131 072 токенов; модель распространяется в формате safetensors и совместима с Transformers. Модель предназначена для диалоговых систем, которым нужно выбирать подходящий инструмент, вызывать функции по JSON Schema, выполнять последовательные или параллельные вызовы и формировать ответы с опорой на результаты инструментов. Она также поддерживает сценарии с интерпретатором кода и может отвечать обычным текстом, когда вызов инструмента не нужен. Качество работы с инструментами зависит от корректного описания функций, шаблона диалога и обработки вызовов на стороне приложения; README предлагает использовать сервер vLLM с совместимым с OpenAI API интерфейсом. Модель выпущена под лицензией MIT.

zeromodels/gemma-4-12b-it — конверсия Gemma 4 12B Instruct в формате Keras 3 от zeromodels. Модель содержит около 11,95 млрд параметров и представлена в bfloat16; реализация запускается на TensorFlow, PyTorch и JAX. Вариант предназначен для генерации ответов по тексту, изображениям и аудио: принимает эти типы входных данных и выдаёт текст. Доступен также текстовый режим. В README указано окно скользящего внимания 1024 токена; это не следует трактовать как полный размер контекста. Модель унаследована от google/gemma-4-12B-it и распространяется по лицензии Apache 2.0.

principled-intelligence выпустила текстовый вариант Gemma 4 E2B-it: из исходного мультимодального чекпойнта удалены веса энкодеров изображений и аудио, а языковая модель сохранена. Это плотная модель семейства Gemma 4 с 1,6 млрд параметров по метаданным и контекстом до 131 072 токенов. Модель предназначена для извлечения признаков из текста и может использоваться как текстовая часть исходной модели для генерации. По README, удаление энкодеров уменьшает размер чекпойнта и пиковое потребление видеопамяти примерно на 9% по сравнению с исходным Gemma 4 E2B-it; сохранены исходные токенизатор и шаблон чата. Для загрузки автор проверял Transformers, а другие движки инференса пока не поддерживаются. Лицензия — Apache-2.0.

mlx-community/gemma-4-E4B-it-qat-mobile — это MLX-совместимая мобильная версия instruction-tuned модели Gemma 4 E4B-it, опубликованная сообществом MLX Community на основе модели Google DeepMind. Она предназначена для локального запуска на устройствах Apple с MLX, включая сценарии генерации текста и анализа изображений с текстовым ответом. Модель имеет около 3 млрд параметров, использует формат Safetensors и 8-битное представление; размер файлов на странице модели составляет около 3,46 ГБ. Вариант создан с применением Quantization-Aware Training и мобильной схемы оптимизации wNa8o8, включающей целевое 2-битное декодирование, оптимизированный KV-кэш и статические активации для снижения требований к памяти. Карточка указывает английский язык и поддержку image-text-to-text; для семейства Gemma 4 заявлены обработка текста и изображений, контекст до 256K токенов и поддержка более 140 языков. Сильная сторона модели — сочетание мультимодальности и уменьшенных требований к памяти, что делает её подходящей для локального инференса на мобильном и периферийном оборудовании. Ограничения связаны с квантованием, меньшим размером по сравнению с полноразмерными вариантами Gemma 4 и отсутствием подробного описания бенчмарков или ограничений в карточке данной производной версии. Лицензия на странице mlx-community явно не указана; условия базовой модели Gemma 4 следует проверять в официальной карточке Google.

GLM-5.3-Flash-4bit-paged — это 4-битная сборка модели GLM-5.3-Flash с экспертной пагинацией, опубликованная GreenBitAI на базе pipenetwork/GLM-5.3-Flash-MLX-4bit. Модель предназначена для генерации текста и мультимодальных сценариев image-text-to-text, а заявленные языки — английский и китайский. Сборка ориентирована на запуск через gbx-lm, в частности на компьютерах Apple Silicon с MLX. Архитектура использует mixture-of-experts: необходимые экспертные веса могут загружаться из файла experts.bin по мере обращения к ним, что снижает требования к постоянно занятой оперативной памяти, но требует значительного дискового пространства и может замедлять работу, если веса не помещаются в память. Общий объём файлов составляет около 169,27 ГиБ, включая 5,89 ГиБ резидентных весов, 159,47 ГиБ маршрутизируемых экспертов и 3,90 ГиБ дополнительной головы multi-token prediction. Максимальный контекст в README не указан. Дополнительная MTP-голова отключена по умолчанию и поддерживает speculative decoding; на Mac Studio с M3 Ultra она показала ускорение до 1,41 раза при контексте 11 317 токенов, однако выигрыш зависит от длины контекста и конфигурации оборудования. Для модели заявлена проверка совпадения с исходной сборкой на уровне слоёв. Квантование, токенизатор и шаблон чата унаследованы от базовой модели. Лицензия — MIT.

GLM-5.3-Flash-VQ-3.6bpw — векторно-квантизированная сборка мультимодальной модели GLM-5.3-Flash от zai-org, подготовленная для Apple Silicon с использованием MLX и VQLab. Модель предназначена для генерации и анализа текста, а также обработки изображений в сценариях, поддерживаемых GLM-5.3-Flash. Заявлены английский и китайский языки; максимальная длина контекста в README не указана. Сборка основана на исходном контрольном пункте bf16 размером 598,5 GiB и занимает 134,0 GiB. Это MoE-модель с векторной квантизацией экспертов до d=4 и K=8192; attention, embeddings и выходная голова сохранены в 8-битном affine-формате, нормы, маршрутизаторы и vision tower из 347 тензоров — в bf16. MTP-слой не квантизирован. По приведённым измерениям, модель сопоставима по качеству с affine q4, но требует на 32 GiB меньше памяти; её совпадение top-1 с bf16-учителем составляет 92,1%. Основные ограничения — очень большой объём весов и необходимость совместимого runtime. Для текста требуется mlx-lm с поддержкой model_file, для изображений — mlx-vlm версии не ниже 0.6.17; конфигурация и встроенный model.py должны быть корректно загружены. Сборка проверена в двухузловом кластере exo на Apple Silicon, поскольку превышает объём памяти одной 128-гигабайтной машины. Лицензия — MIT.

Это конверсия модели granite-embedding-97m-multilingual-r2 от IBM в формат GGUF F16, подготовленная ATF (Agent Taskflow) для локального запуска через llama.cpp. Модель на базе ModernBERT создаёт 384-мерные текстовые эмбеддинги и использует собственный многоязычный токенизатор на 180 000 токенов. Конверсия не меняет веса и не включает дообучение; автор README сообщает о высокой близости результатов к исходной модели при проверке на CPU и GPU. Модель предназначена для получения векторных представлений текста в локальных и периферийных сценариях, включая семантический поиск и сопоставление запросов с документами или кодом. Для запуска нужен актуальный llama.cpp с поддержкой токенизатора granite-embed-multi-97m. Модель распространяется по лицензии Apache-2.0; веса принадлежат IBM.

jina-embeddings-v5-text-nano-text-matching-mlx — порт модели jina-embeddings-v5-text-nano-text-matching для эффективного инференса на компьютерах Apple Silicon. Это плотная модель семейства EuroBERT с 211,7 млн параметров и контекстом до 8192 токенов; в README указан размер 239 млн параметров. Модель предназначена для сопоставления текстов и извлечения признаков, например для оценки семантического сходства и поиска релевантных текстов. Модель поддерживает многоязычный ввод. Репозиторий использует библиотеку MLX и формат safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.

Kimi-K2.7-Code-Alis-MLX-Dynamic-3.6bpw — это чувствительность-ориентированная 3,6-битная MLX-квантизация модели moonshotai/Kimi-K2.7-Code, созданная avlp12 для запуска на компьютерах Apple Silicon, прежде всего на M3 Ultra. Базовая модель представляет собой примерно триллионопараметрическую MoE-архитектуру в стиле DeepSeek-V3 с 32 млрд активных параметров и предназначена главным образом для генерации кода и решения задач программирования. Репозиторий содержит текстовую/code-версию рецепта, однако исходные веса были удалены как дубликат и перенесены в связанный VLM-репозиторий; языковая часть там побитово идентична этой сборке, а VLM дополнительно включает MoonViT и projector. Модель использует Multi-head Latent Attention (MLA), благодаря чему KV-кэш занимает относительно мало памяти: около 68,6 КБ на токен по всем 61 слоям. Нативное контекстное окно составляет 256K токенов, с YaRN-расширением и rope_theta 50000. Размер весов — около 465 ГБ (433 GiB), поэтому модель рассчитана на один компьютер с 512 ГБ памяти или на распределённый запуск на двух M3 Ultra по Thunderbolt через pipeline parallelism. Квантизация применяет 3 бита к большинству routed experts, 4 бита к down_proj в 16 из 60 слоёв, 6 бит к attention, shared experts, dense-слою, embedding и LM head, а маршрутизатор сохраняется в bf16; эффективная разрядность составляет 3,62 бита на вес. Сильными сторонами являются существенное снижение требований к памяти по сравнению с полноразмерными и 4-битными сборками, сохранение качества за счёт чувствительность-ориентированного распределения битов и возможность работы с очень длинным контекстом. Ограничения включают экстремально большой размер, необходимость мощного Apple Silicon-оборудования и отсутствие заявленной универсальной оценки качества помимо приведённых метрик perplexity и KL-дивергенции. Лицензия указана как modified-MIT; ссылка ведёт на лицензию базовой модели Kimi-K2.7-Code.

Карточка модели ajmcclary/MinerU2.5-Pro-2605-1.2B на Hugging Face совпадает с карточкой opendatalab/MinerU2.5-Pro-2605-1.2B, поэтому описание составлено по ней. MinerU2.5-Pro-2605-1.2B — модель OpenDataLab для разбора документов и преобразования PDF в Markdown. Это визуально-языковая модель на архитектуре Qwen2-VL, принимающая изображения и текстовые запросы и выдающая структурированный текст. Метаданные указывают 494 млн параметров и контекст до 32 768 токенов; README описывает версию как модель архитектуры 1,2 млрд параметров, улучшенную за счёт данных и обучения. Модель предназначена для извлечения текста и структуры документов, включая таблицы, формулы, диаграммы, блок-схемы и печати. Она также поддерживает объединение продолжений абзацев и распознавание изображений внутри таблиц. README сообщает о высоких результатах на OmniDocBench, однако они приведены разработчиком и не гарантируют качество на конкретных документах. В README также отмечено, что объединение таблиц между страницами ещё интегрируется. Лицензия — Apache-2.0.

AIDA-UPM — модель sentence-transformers на базе XLM-RoBERTa, обученная сопоставлять предложения и абзацы в общем плотном пространстве эмбеддингов размерности 768. Её можно применять для семантического поиска, кластеризации и оценки смыслового сходства текстов. Модель содержит 305,2 млн параметров, принимает текстовые последовательности с контекстом до 514 токенов и распространяется в формате PyTorch. Модель подходит для поиска близких по смыслу фрагментов в многоязычных корпусах и группировки текстов по тематике. Обучение с CosineSimilarityLoss указывает на настройку для работы с оценкой сходства. Лицензия в предоставленных данных не указана.

Карточка модели Hisham480/multilingual-e5-small на Hugging Face совпадает с карточкой intfloat/multilingual-e5-small, поэтому описание составлено по ней. Multilingual-E5-small — модель текстовых эмбеддингов, разработанная авторами технического отчёта Multilingual E5. Это компактная 12-слойная модель архитектуры BERT с 124,3 млн параметров и размерностью эмбеддингов 384; она инициализирована из microsoft/Multilingual-MiniLM-L12-H384 и дополнительно обучена на смеси многоязычных наборов данных. Модель преобразует тексты в векторы для поиска и сравнения по смыслу, включая межъязыковой поиск, поиск фрагментов для систем вопросов и ответов, семантическое сходство, подбор перефразировок и кластеризацию. Для разных типов текста следует использовать префиксы «query: » и «passage: » согласно сценарию; без них качество может снизиться. Поддерживаются 100 языков, однако качество для языков с малым количеством ресурсов может быть ниже. Контекст ограничен 512 токенами, длинные тексты обрезаются. В репозитории доступны форматы PyTorch, SafeTensors, ONNX и OpenVINO. Лицензия — MIT.

Muse2-230M — компактная авторегрессионная языковая модель Muse Research, дообученная на основе Muse2-230M-Base. Она предназначена для диалогового помощника, форматирования ответов и извлечения структурированных данных, например преобразования журналов разработчиков в JSON, а также для запуска на устройствах с ограниченными ресурсами и дальнейшей тонкой настройки. Модель содержит 221,2 млн параметров и использует плотную гибридную архитектуру Muse2: блоки коротких причинных свёрток чередуются с полным вниманием, применяются grouped-query attention и объединённый SwiGLU MLP. Вход и выход — текст; основной язык — английский, также модель обрабатывает программный код и математические тексты. Контекст в карточке указан как 128 000 токенов, хотя README уточняет, что стандартная длина составляет 8 000 токенов, а 128 000 — максимум. Модель обучена методом supervised fine-tuning с маскированием функции потерь только на ответах; RLHF и DPO не применялись. Качественная и безопасностная проверка ограничена, поэтому модель может галлюцинировать, повторяться или выдавать смещённые и нежелательные ответы. Разработчик не рекомендует полагаться на неё в критичных, медицинских, юридических или иных фактически значимых сценариях без оценки и защитных мер. Веса доступны по лицензии Apache-2.0.

mxbai-embed-large-v1-gguf — модель для построения векторных представлений предложений и текстов, разработанная MixedBread AI и преобразованная в формат GGUF пользователем ChristianAzinn. В основе лежит модель mxbai-embed-large-v1 архитектуры BERT, обученная с использованием функции потерь AnglE на большом высококачественном наборе данных. Модель ориентирована на англоязычные тексты и предназначена для семантического поиска, сравнения текстов, кластеризации, извлечения признаков и других задач, где используются sentence embeddings. Модель поддерживает контекст до 512 токенов и поставляется в вариантах GGUF с квантованием от 2 до 8 бит, а также в FP16 и FP32. Файлы совместимы с llama.cpp и LM Studio при указанных в README версиях. Квантование позволяет снизить требования к памяти, однако варианты с малым числом бит могут существенно ухудшать качество; наиболее сбалансированными авторами названы Q4_K_M, Q5_K_S, Q5_K_M и Q8_0. Размер исходной модели и точное число параметров в README не указаны. Модель сильна в задачах семантического представления текста и заявлена как обеспечивающая высокие результаты на бенчмарках уровня BERT-large. Ограничения включают поддержку только английского языка, ограничение контекста 512 токенами и возможную потерю качества при агрессивном квантовании. Модель распространяется по лицензии Apache-2.0.

Octen-Embedding-0.6B DirectML ONNX — конвертированное представление модели Octen/Octen-Embedding-0.6B, подготовленное для запуска через ONNX Runtime с DirectML на GPU в Windows. Граф ONNX исправлен для обработки форм тензоров внимания GQA с фиксированными размерами голов: 16 для Q и 8 для K и V. Репозиторий содержит веса FP16, токенизатор Qwen2 и конфигурацию с контекстом до 32 768 токенов. Модель предназначена для получения эмбеддингов и задач поиска по сходству предложений. В README приведены результаты на наборах esp32 и autosar; автор сообщает, что исправление графа сохраняет качество исходного CPU FP16 варианта. Распространяется по лицензии Apache-2.0.