I.3Извлечение и структурирование данных

Weyaxi/Dolphin2.1-OpenOrca-7B — текстовая генеративная модель Weyaxi, созданная слиянием TIES двух моделей: ehartford/dolphin-2.1-mistral-7b и Open-Orca/Mistral-7B-OpenOrca. Она предназначена для диалогов, ответов на вопросы и генерации текста. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Слияние объединяет веса Dolphin 2.1 Mistral 7B и Mistral 7B OpenOrca; в README приведены коэффициенты весов и плотности для каждой исходной модели. Репозиторий содержит веса в формате safetensors. Указанная лицензия — Apache-2.0. Доступны отдельные квантизированные версии GPTQ, GGUF и AWQ от TheBloke.

Dolphin X1 Trinity Nano — чат-модель общего назначения, разработанная командой Dolphin на базе Arcee AI Trinity Nano Preview. Авторы описывают её как модель, дообученную с помощью новых RL-сред для снижения отказов при сохранении следования инструкциям. Она использует разреженную MoE-архитектуру Afmoe и содержит 880,3 млн параметров; контекстное окно — до 131 072 токенов. Модель предназначена для диалогов и генерации текста, включая ответы на запросы и выполнение инструкций. Карточка заявляет поддержку английского, испанского, французского, немецкого, итальянского, португальского, русского, арабского, хинди, корейского и китайского языков. Для диалогов используется шаблон ChatML; модель доступна в формате safetensors и может запускаться через Transformers, vLLM и llama.cpp. Модель рассчитана на сценарии, где нужны настраиваемые системные инструкции и низкая частота отказов. Заявления авторов о качестве основаны на приведённой ими оценке; результаты не гарантируют такую же производительность на других задачах. Лицензия — Apache-2.0.

Карточка модели hsikchi/dump на Hugging Face совпадает с карточкой BAAI/bge-base-en-v1.5, поэтому описание составлено по ней. BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.

e5-sk-small — компактная модель текстовых эмбеддингов для словацкого языка, выпущенная в рамках проекта SkMTEB. Это плотная BERT-модель на базе intfloat/multilingual-e5-small: после сокращения словаря и дообучения она содержит 45 млн параметров по README, а в метаданных указано 51,4 млн; размер вектора составляет 384 измерения. Модель принимает текст и выдаёт эмбеддинги для семантического поиска, сравнения предложений, кластеризации и классификации. Для поиска используйте префикс query: у запроса и passage: у документов; для симметричных задач префикс не нужен. Модель ориентирована прежде всего на словацкие тексты и показывает результаты на бенчмарке SkMTEB, сопоставимые с multilingual-e5-small и text-embedding-3-small. Также заявлена поддержка межъязыкового поиска между словацким, английским и чешским. Контекстная длина архитектуры по метаданным — 512 токенов; при дообучении использовались последовательности до 256 токенов. Лицензия — MIT, веса доступны для локального запуска.

E5-small-v2-t2t-nl — нидерландская версия модели для получения плотных текстовых эмбеддингов, дообученная на базе clips/e5-small-v2-t2t. Её можно использовать для сравнения семантической близости запросов и текстов, поиска по смыслу и задач ранжирования. Модель построена на архитектуре BERT и содержит 39,9 млн параметров; максимальная длина контекста — 512 токенов. Она работает с текстом и предназначена прежде всего для нидерландского языка. В карточке приведён пример кодирования запросов и фрагментов MS MARCO и указана оценка на бенчмарке MTEB-NL. Модель распространяется по лицензии MIT.

HauhauCS/Gemma4-26B-A4B-Uncensored-HauhauCS-Balanced — модифицированная версия Google Gemma 4 26B A4B IT, разработанная HauhauCS. Модель предназначена для генерации текста, творческого письма, ролевых сценариев, задач эмоционального интеллекта, программирования и агентных рабочих процессов с использованием инструментов. Она позиционируется как uncensored-вариант с минимальным количеством отказов; при этом в отдельных пограничных случаях может сначала добавить краткое предупреждение или отклонить запрос, но обычно отвечает после повторного запроса. Модель имеет MoE-архитектуру: около 25,2 млрд общих параметров и 3,8 млрд активных параметров на проход, 128 маршрутизируемых экспертов, top-8 и один общий эксперт. Используются 30 слоёв с гибридным вниманием, включающим пять оконных слоёв на 1024 токена и один слой полного внимания, а также Proportional RoPE. Нативный контекст составляет 256 тысяч токенов. Модель мультимодальная, поддерживает текст и изображения, поставляется с визуальным проектором mmproj и переменным бюджетом визуальных токенов. В README явно указан английский язык. Сильными сторонами заявлены стабильная работа при повторной генерации, сохранение связности в длинных контекстах, высокая пропускная способность благодаря малому числу активных параметров и пригодность для локального запуска через GGUF-совместимые среды, включая llama.cpp и LM Studio. Для сложных агентных задач автор README отмечает превосходство Qwen3.6. Доступны различные варианты квантования размером примерно от 10 до 27 ГБ; рекомендуемый вариант для программирования — Q4_K_P. Модель распространяется по лицензии Apache-2.0.

GIST-large-Embedding-v0 — текстовая модель эмбеддингов от avsolatorio, дообученная на базе BAAI/bge-large-en-v1.5 с использованием MEDI и обучающих данных классификации MTEB. Она кодирует текст в векторы для поиска и сравнения предложений; при построении эмбеддингов запросов инструкции не требуются. Модель основана на BERT, содержит 433,9 млн параметров, принимает текст длиной до 512 токенов и распространяется в формате safetensors через библиотеку Sentence Transformers. Модель подходит для семантического поиска, извлечения документов по запросу и оценки сходства текстов. По результатам MTEB дообучение улучшило отдельные задачи и ухудшило другие; в частности, отмечено снижение качества на TRECCOVID, поэтому результаты могут зависеть от тематического покрытия данных и целевого набора. Лицензия модели — MIT; лицензии сторонних обучающих данных могут иметь собственные условия.

JANGQ-AI/GLM-5.3-Flash-JANG — квантованная для Apple Silicon и MLX сборка GLM-5.3-Flash, подготовленная Jinho Jang. Это модель семейства GLM с архитектурой MoE примерно на 300 млрд параметров и 288 экспертами; в README также описаны линейное внимание KDA, гибрид MLA/DSA и отдельные компоненты для обработки изображений и видео. Размер весов составляет около 95,5 GiB, заявленный нативный контекст — 1 млн токенов. По данным карточки, квантование распределено по модулям: внимание, маршрутизация и параметры gating сохранены в 8-битном или полном формате, а снижение точности сосредоточено в экспертных блоках. Разработчик приводит измерения сходства выходных логитов с официальной FP8-версией на отложенных запросах; это не заменяет независимую оценку качества на прикладных задачах. Сборка предназначена для диалогов, рассуждений, агентных сценариев и работы с изображениями и видео на Mac с 128 ГБ памяти. README предупреждает, что публичная поддержка новой архитектуры в runtime vMLX ещё разрабатывается и на момент публикации карточки эти веса корректно загружались только во внутренней среде оценки. Модель наследует базовую GLM-5.3-Flash, а репозиторий распространяет её под лицензией MIT.

Это GGUF-сборка модели llmfan46/gpt-oss-120b-ultra-heretic, подготовленная независимым автором llmfan46. В README указано, что исходная модель прошла abliteration: изменялись слои 15–32 с целью снизить частоту отказов при сохранении возможностей. Доступны варианты BF16, Q8_0 и Q5_K_M; метаданные классифицируют эту копию как дообученную модель в формате GGUF. Модель предназначена для диалоговой генерации текста, рассуждений и сценариев с использованием инструментов. README также заявляет поддержку вызова функций, веб-браузинга и структурированных ответов, а запуск описан через llama.cpp, LM Studio и Ollama. Указанные в карточке показатели — 3 отказа из 100 и KL-дивергенция 0,0703 — относятся к оценке автора и не гарантируют результаты на других запросах. Лицензия — Apache 2.0. Сборка ориентирована на пользователей, которым нужна модель с меньшим числом отказов; такие ответы могут быть менее ограничены. Размер параметров и длина контекста для этой GGUF-копии в предоставленных данных не указаны.

QuantFactory/granite-7b-instruct-GGUF — квантизированная версия instruct-модели IBM Granite-7B-Instruct, созданная с использованием llama.cpp. Базовая модель — ibm/granite-7b-base; исходная модель разработана IBM Research и обучена с применением метода LAB (Large-scale Alignment for chatBots), использующего синтетические данные от Mixtral-8x7B-Instruct в качестве учителя. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и других текстовых сценариях. Указанный язык — английский. Модель содержит около 7 млрд параметров; формат GGUF и квантизация ориентированы на более эффективный запуск с совместимыми инструментами и меньшими требованиями к памяти. В карточке не указаны размер контекстного окна, конкретный вариант квантизации, поддерживаемые модальности помимо текста и точные требования к аппаратному обеспечению. К сильным сторонам относятся использование структурированной таксономии задач, синтетической генерации данных, поэтапного обучения и replay buffer для добавления знаний и навыков с уменьшением риска катастрофического забывания. В приведённых тестах Granite-7b-lab получил средний результат 6,69 на MTBench и 51,91 на MMLU (5-shot), однако эти показатели относятся к исходной LAB-модели и не обязательно напрямую характеризуют данный квантизированный вариант. Модель распространяется по лицензии Apache-2.0.

GritLM-8x7B-KTO — версия GritLM, разработанная Contextual AI и обученная методом KTO. GritLM объединяет генерацию текста и создание текстовых представлений в одной языковой модели; семейство включает вариант на архитектуре Mixtral 8x7B. В репозитории указаны веса Safetensors и лицензия Apache-2.0. Модель предназначена для диалоговой генерации текста и задач, где нужны текстовые представления, например поиск по смыслу и сопоставление текстов. Контекст составляет до 32 768 токенов. Карточка не приводит отдельные результаты или ограничения качества именно версии KTO; пригодность для конкретного сценария следует оценивать на его данных.

gte-large — модель текстовых эмбеддингов General Text Embeddings, разработанная Alibaba DAMO Academy на основе архитектуры BERT и обученная контрастивным обучением на крупном корпусе пар текстов с оценками релевантности. Она преобразует английские тексты в векторы размерностью 1024 и предназначена для поиска информации, сравнения семантической близости и ранжирования текстов. Модель применима в поисковых системах, семантическом сопоставлении предложений и других задачах, использующих текстовые эмбеддинги. В тесте MTEB для gte-large указана средняя оценка 63,13 по 56 задачам. Контекст ограничен 512 токенами: более длинные тексты обрезаются. Модель рассчитана только на английский язык. Лицензия — MIT.

Карточка модели vectoriseai/gte-small на Hugging Face совпадает с карточкой avsolatorio/MixEmbedFinetune-base-20240122220725-best, поэтому описание составлено по ней. avsolatorio/MixEmbedFinetune-base-20240122220725-best — модель текстовых эмбеддингов на базе BERT, представленная в карточке как gte-small. Семейство GTE разработано Alibaba DAMO Academy и обучалось на большом наборе пар текстов с оценками релевантности; конкретный репозиторий содержит дообученную модель размером около 40 млн параметров. Модель предназначена для получения векторных представлений английских текстов и их сравнения по смыслу. Её можно применять для семантического поиска, оценки сходства предложений, поиска релевантных документов и ранжирования текстов. Максимальная длина последовательности — 512 токенов; более длинный ввод обрезается. Лицензия — MIT.

jina-embeddings-v2-base-zh — двуязычная модель текстовых эмбеддингов, разработанная Jina AI. Она предназначена для получения векторных представлений текста для поиска и сравнения смысловой близости, в том числе между китайским и английским языками и для смешанного китайско-английского ввода. Модель использует архитектуру JinaBERT на основе BERT с двунаправленным ALiBi и поддерживает контекст до 8192 токенов. В репозитории указано около 160,1 млн параметров. Для получения эмбеддингов README рекомендует применять mean pooling; модель можно использовать через Transformers или Sentence Transformers, а для загрузки через Transformers требуется включить trust_remote_code. Подходит для семантического и межъязыкового поиска, включая поиск по документам для RAG. Это производная модель семейства jina-embeddings-v2; в карточке указана лицензия Apache-2.0, однако доступ к весам ограничен и для загрузки требуется авторизация на Hugging Face.

LiquidAI/LFM2.5-8B-A1B-MLX-8bit — языковая text-generation модель, разработанная Liquid AI и преобразованная в формат MLX из базовой модели LiquidAI/LFM2.5-8B-A1B с использованием mlx-lm 0.31.3. Она предназначена для запуска локально, в том числе в качестве персонального ассистента на ноутбуке, генерации текста, диалогового взаимодействия и сценариев с function calling. Модель использует архитектуру Mixture of Experts (MoE); обозначение 8B-A1B указывает на конфигурацию базовой модели, однако подробности архитектуры в README не приведены. Веса квантизированы до 8 бит с group size 64 и affine mode, а MoE-gates сохранены в 8-битном формате. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский, испанский и португальский языки. Модель работает через mlx-lm, использует ChatML-подобный шаблон и поддерживает явные рассуждения перед итоговым ответом, а также вызов функций. К сильным сторонам относятся оптимизация для MLX, 8-битная квантизация, возможность локального использования и поддержка многоязычного диалога и инструментов. Ограничения связаны с отсутствием в README сведений о размере контекста, точных характеристиках производительности, требованиях к памяти и результатах оценивания; модель также ориентирована на экосистему MLX. Условия использования определяются лицензией LFM Open License v1.0.

Карточка модели meta-llama/Llama-3.1-405B-Instruct-FP8 на Hugging Face совпадает с карточкой meta-llama/Llama-3.1-405B, поэтому описание составлено по ней. Meta Llama 3.1 405B — большая авторегрессионная языковая модель на основе оптимизированной архитектуры Transformer с Grouped-Query Attention. Она принимает и генерирует текст; семейство Llama 3.1 включает базовые и дообученные версии, а этот репозиторий представляет модель размером 405 млрд параметров. В метаданных указаны библиотека Transformers и формат safetensors. Модель предназначена для генерации текста и многоязычного диалога: её можно применять как основу для помощников и чат-систем, а также адаптировать к другим задачам генерации естественного языка. Семейство поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. В карточке отмечены расширенное контекстное окно и возможность интеграции с инструментами разработчиками, но точный размер контекста этой модели не указан. Модель разработана Meta и выпущена в июле 2024 года. Она распространяется по специальной коммерческой лицензии Llama 3.1 Community License; применение должно соответствовать лицензии и Acceptable Use Policy. К ограничениям относятся статичность обученных весов, отсутствие гарантии безопасности или корректности ответов и рекомендация не использовать неподдерживаемые языки без дополнительного дообучения и системных мер контроля.

Llama-3.1-Nemotron-lorablated-70B — диалоговая текстовая модель на архитектуре Llama, созданная автором репозитория слиянием NVIDIA Llama-3.1-Nemotron-70B-Instruct-HF и mlabonne/Llama-3-70B-Instruct-abliterated-LORA с помощью mergekit и task arithmetic. Модель содержит 69,5 млрд параметров и принимает текстовые запросы, генерируя текстовые ответы; поддерживает контекст до 131 072 токенов. Модель предназначена для диалогов и ответов на инструкции, включая запросы, на которые базовая модель могла отказываться отвечать. В метаданных также заявлен интерфейс вызова инструментов. Карточка приводит результаты оценивания на IFEval и BBH, но не описывает конкретный набор поддерживаемых языков. Модель распространяется по лицензии Llama 3.1; применимость её условий следует проверять для конкретного использования.

onnx-community/Llama-3.2-1B-Instruct-q4f16 — преобразованная в ONNX версия инструкционной языковой модели Meta Llama 3.2, подготовленная сообществом onnx-community для запуска через Transformers.js. Это авторегрессионный трансформер семейства Llama с плотной архитектурой, примерно 1,2 млрд параметров и контекстом до 131 072 токенов; формат репозитория — ONNX, вариант обозначен как q4f16. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для многоязычного диалога, ответов ассистента, поиска знаний с использованием агентных сценариев, суммаризации, помощи в написании текстов и переформулирования запросов. В карточке перечислены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Инструкционные модели семейства выравнивались с помощью SFT и RLHF; заявлены коммерческое и исследовательское применение по условиям лицензии Llama 3.2 Community License. Это статичная модель с данными обучения до декабря 2023 года; качество и безопасность ответов требуют проверки в конкретном приложении.

shb777/Llama-3.3-8B-Instruct-128K — доработанная версия Llama 3.3 8B Instruct, созданная на основе allura-forge/Llama-3.3-8B-Instruct. Это плотная авторегрессионная языковая модель с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. В карточке указано, что для версии включена полная длина контекста — 131 072 токена; также добавлены настройки rope_scaling, шаблон чата Unsloth в конфигурации токенизатора и обновлена конфигурация генерации. Модель можно использовать для ответов в чате, продолжения текста и других сценариев генерации. Метаданные отмечают интерфейс для вызова инструментов, но README не описывает его поведение или качество. Модель опубликована в формате safetensors и распространяется по лицензии llama3.3. README также ссылается на GGUF-варианты, однако этот репозиторий описан как safetensors-модель.

Luxical-One — компактная модель встраивания текста от DatologyAI, полученная дистилляцией Snowflake/snowflake-arctic-embed-m-v2.0. Она создаёт векторы для симметричного сравнения сходства полных документов на английском языке и для задач классификации. Модель рассчитана на высокопроизводительное получение эмбеддингов без GPU-ускорения; доступна интеграция для инференса через Hugging Face. В репозитории указаны веса в формате safetensors. Лицензия — Apache-2.0.

Meta-Llama-3.1-8B — плотная авторегрессионная языковая модель семейства Llama, опубликованная Meta и представленная в репозитории Unsloth в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев; карточка также описывает её как основу для дообучения с помощью ноутбуков Unsloth. Модель содержит 7,5 млрд параметров, работает с текстом и поддерживает контекст длиной до 131 072 токенов. В метаданных указан английский язык. Для использования действует лицензия Llama 3.1. README не приводит результатов оценки качества или подробных ограничений применения.

mlx-community/Meta-Llama-3-8B-Instruct-4bit — 4-битная квантованная версия инструкционной языковой модели Meta Llama 3 с 8 млрд параметров, подготовленная сообществом mlx-community. Базовую модель разработала Meta. Модель предназначена для генерации текста и выполнения задач по инструкциям, включая диалоговые и другие сценарии обработки текста. Указанная поддерживаемая языковая версия — английский язык; модальность — текстовая. Размер контекста и дополнительные архитектурные характеристики в README не указаны. Ключевая особенность этой версии — 4-битное квантование, ориентированное на более эффективное локальное выполнение и снижение требований к памяти по сравнению с полноразмерными весами, однако README не содержит результатов оценки качества или точных эксплуатационных требований. Модель предназначена для text-generation и может использоваться в приложениях, которым требуется компактная инструкционная LLM. Модель распространяется по Meta Llama 3 Community License. Лицензия предоставляет ограниченные права на использование, копирование, распространение и создание производных работ при соблюдении условий Meta, включая сохранение лицензионного соглашения и уведомления об авторстве, отображение фразы «Built with Meta Llama 3» при распространении материалов или продуктов, соблюдение Acceptable Use Policy и специальные коммерческие условия для организаций с более чем 700 млн ежемесячных активных пользователей.

Meta-Llama-3-8B-Instruct-GGUF — квантизированная версия 8-миллиардной инструкционно дообученной языковой модели Meta Llama 3, разработанной Meta. Квантизацию выполнила SanctumAI. Модель предназначена прежде всего для диалоговых сценариев, генерации текста и выполнения инструкций; поддерживает работу через формат GGUF и различные варианты квантизации, рассчитанные на запуск с уменьшенными требованиями к памяти. Модель является текстовой и, согласно карточке, поддерживает английский язык. Исходная модель относится к семейству Llama 3 с размерами 8B и 70B, однако для данной версии указан размер 8B. Доступны варианты от Q2_K до Q8_0, а также f16; размер файлов составляет примерно от 3,18 до 16,07 ГБ, оценочное потребление памяти — от 7,20 до 19,21 ГБ в зависимости от варианта. Карточка не указывает размер контекстного окна и конкретную архитектуру. Сильные стороны модели — оптимизация для диалогов, заявленная высокая эффективность на распространённых отраслевых бенчмарках среди открытых чат-моделей, а также возможность выбрать баланс качества и требований к памяти с помощью квантизации. Ограничения включают возможные неточные, вредные, оскорбительные или вводящие в заблуждение ответы; результаты требуют проверки. Модель распространяется по лицензии Llama 3; точные условия следует уточнять в файле LICENSE.

amd/MiniMax-M2.7-MXFP4 — текстовая языковая модель MiniMax M2.7, разработанная MiniMax и оптимизированная AMD. Модель принимает текст и генерирует текст, предназначена для задач генерации и обработки естественного языка, включая сценарии с рассуждениями и вызовом инструментов. Указан английский язык; дополнительные языки в карточке не заявлены. Модель реализована на архитектуре MiniMaxM2ForCausalLM и представляет собой статически квантизованную версию amd/MiniMax-M2.7-BF16. Веса и активации квантизованы в формате OCP MXFP4 с использованием AMD-Quark: для весов применяется статическая, а для активаций — динамическая квантизация. Поддерживаются аппаратные платформы AMD MI350 и MI355, ROCm 7.2.1, PyTorch 2.10.0 и Linux. Для инференса указаны SGLang и vLLM; конфигурация также поддерживает tensor parallelism, выбор инструментов и парсеры MiniMax для вызова инструментов и рассуждений. Размер модели и длина контекста не указаны. Сильной стороной является существенное снижение точности представления при сохранении качества: на GSM8K модель получила 91,89 против 91,81 у исходной MiniMaxAI/MiniMax-M2.7, что соответствует восстановлению 100,09% результата. Ограничения включают зависимость от совместимого оборудования AMD и программного стека, а также отсутствие данных о качестве на других задачах, полном наборе языков и контекстном окне. Лицензия модифицированная MIT с некоммерческим использованием; коммерческое использование требует предварительного письменного разрешения MiniMax и соблюдения дополнительных условий.

Mistral-22B-v0.2 — экспериментальная плотная языковая модель на 22 млрд параметров, созданная Nicolas Mejia-Petit. По описанию автора, это преобразование MoE-модели в плотную: знания экспертов объединены в одну модель. Она дообучалась на многоходовых диалогах, в том числе на примерах программирования, математических задач, ответов в JSON и действий агента. Автор отмечает улучшения в связности ответов, следовании запросам и программировании по сравнению с предыдущей версией, однако приводит лишь результаты собственных предварительных проверок. Модель предназначена для генерации текста в диалоговом формате Guanaco. В README указана длина обучения 32 тыс. токенов, а метаданные каталога указывают контекст до 65 536 токенов. Для применения рекомендуется использовать шаблон Guanaco. Модель заявлена как намеренно слабо ограниченная по отказам, поэтому может выдавать нежелательный контент. Автор называет её экспериментальной и незавершённой. Лицензия — Apache-2.0.

Это сегментированная по файлам копия Mistral-7B-Instruct-v0.1 от filipealmeida, предназначенная для запуска при ограниченной памяти CPU. В основе лежит плотная трансформерная модель Mistral с 7,1 млрд параметров, дообученная следовать инструкциям на открытых диалоговых наборах данных. Архитектура использует Grouped-Query Attention и Sliding-Window Attention; карточка указывает контекст до 32 768 токенов. Модель принимает текстовые инструкции в формате с маркерами [INST] и [/INST] и генерирует текстовые ответы в диалоговых сценариях. Её можно применять для вопросов и ответов, ведения диалога, составления черновиков и выполнения текстовых инструкций. Разбиение весов на шарды снижает требования к памяти CPU при загрузке, но не является квантизацией и само по себе не меняет вычислительные требования модели во время генерации. Лицензия — Apache-2.0.

Mistral-Small-24B-Instruct-2501-GGUF — это набор квантизованных версий инструкционной языковой модели Mistral-Small-24B-Instruct-2501, подготовленный пользователем bartowski в формате GGUF для llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp, LM Studio и другие совместимые проекты. Исходная модель имеет размер 24 млрд параметров; в README не указаны подробности её архитектуры и длина контекста. Доступны варианты с точностью от f32 и f16 до различных методов квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Размер файлов варьируется примерно от 11 до 94 ГБ, что позволяет выбирать между качеством и требованиями к памяти. Заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, китайского, японского, русского и корейского языков. Модель является текстовой и не поддерживает мультимодальный ввод по приведённым данным. Сильная сторона набора — широкий выбор квантизаций для локального запуска на оборудовании с разным объёмом памяти; варианты Q5 и выше позиционируются как высококачественные, а Q4 — как подходящие для большинства сценариев. Более компактные варианты требуют меньше памяти, но могут заметно уступать по качеству. Для работы необходим совместимый рантайм, например llama.cpp или LM Studio, и ресурсы, соответствующие размеру выбранного файла. Лицензия — Apache 2.0.

avsolatorio/MixEmbedFinetune-base-20240122220725-best — модель текстовых эмбеддингов на базе BERT, представленная в карточке как gte-small. Семейство GTE разработано Alibaba DAMO Academy и обучалось на большом наборе пар текстов с оценками релевантности; конкретный репозиторий содержит дообученную модель размером около 40 млн параметров. Модель предназначена для получения векторных представлений английских текстов и их сравнения по смыслу. Её можно применять для семантического поиска, оценки сходства предложений, поиска релевантных документов и ранжирования текстов. Максимальная длина последовательности — 512 токенов; более длинный ввод обрезается. Лицензия — MIT.

Карточка модели avsolatorio/MixEmbedFinetune-base-20240122220725-latest на Hugging Face совпадает с карточкой avsolatorio/MixEmbedFinetune-base-20240122220725-best, поэтому описание составлено по ней. avsolatorio/MixEmbedFinetune-base-20240122220725-best — модель текстовых эмбеддингов на базе BERT, представленная в карточке как gte-small. Семейство GTE разработано Alibaba DAMO Academy и обучалось на большом наборе пар текстов с оценками релевантности; конкретный репозиторий содержит дообученную модель размером около 40 млн параметров. Модель предназначена для получения векторных представлений английских текстов и их сравнения по смыслу. Её можно применять для семантического поиска, оценки сходства предложений, поиска релевантных документов и ранжирования текстов. Максимальная длина последовательности — 512 токенов; более длинный ввод обрезается. Лицензия — MIT.

MMARCO-bert-base-italian-uncased — модель Sentence-Transformers на базе BERT, предназначенная для представления предложений и абзацев на итальянском языке в виде плотных векторов размерности 768. Модель содержит 137,1 млн параметров, принимает текст с контекстом до 512 токенов и распространяется под лицензией MIT. Обученная на данных mMARCO с Triplet Loss, модель подходит для семантического поиска, сравнения предложений и кластеризации текстов. Векторы можно использовать для поиска похожих документов и группировки содержимого по смыслу. Репозиторий содержит веса PyTorch и Safetensors, а также формат ONNX; для применения доступны Sentence-Transformers и Transformers с подходящей операцией pooling.