I.3Извлечение и структурирование данных

Granite-embedding-english-r2 — плотная двунаправленная модель-биэнкодер из семейства Granite Embeddings, разработанная командой Granite Embedding Team компании IBM. Она преобразует английские запросы, фрагменты и документы в векторы размером 768 для поиска, извлечения информации и сравнения текстов по косинусному сходству. Модель построена на архитектуре ModernBERT, содержит 149 млн параметров и поддерживает контекст до 8192 токенов. Модель обучалась на открытых наборах пар релевантности с разрешительными лицензиями, а также на данных, собранных и созданных IBM. В обучении использовались retrieval-ориентированное предварительное обучение, контрастивное дообучение, дистилляция и объединение моделей. В README заявлены результаты на тестах поиска по текстам, коду, длинным документам, диалогам и таблицам. Репозиторий предоставляет форматы PyTorch, Safetensors, ONNX, OpenVINO и TensorFlow. Модель предназначена для применения в системах поиска и извлечения информации, включая подбор релевантных документов и построение векторных представлений для последующего сравнения. Она рассчитана только на английский язык; тексты длиннее 8192 токенов будут усечены. Распространяется по лицензии Apache 2.0.

Карточка модели DeepanBabu/gte-Qwen2-1.5B-instruct на Hugging Face совпадает с карточкой Alibaba-NLP/gte-Qwen2-1.5B-instruct, поэтому описание составлено по ней. gte-Qwen2-1.5B-instruct — модель текстовых эмбеддингов из семейства GTE, разработанная Alibaba NLP на базе Qwen2-1.5B. Она преобразует тексты в векторы размерности 1536 и предназначена для поиска по смыслу, сравнения предложений, ранжирования и других задач, использующих текстовые представления. Модель поддерживает инструкции для запросов и обучалась на многоязычных данных из разных областей; в карточке указано контекстное окно 131 072 токена, тогда как README описывает максимальную длину входа 32 000 токенов. В основе — архитектура Qwen2 с причинной языковой моделью, дополненной двунаправленным механизмом внимания для контекстного представления текста. В README заявлены сценарии для широкого круга языков и задач, но конкретный список языков не приведён. Модель распространяется под лицензией Apache-2.0. Для запуска README указывает зависимости transformers версии 4.39.2 или новее и flash_attn версии 2.5.6 или новее.

Hermes-2-Pro-Llama-3-8B-GGUF — квантизированная GGUF-версия языковой модели Hermes-2-Pro-Llama-3-8B, разработанной NousResearch и преобразованной в GGUF компанией Second State Inc. Это текстовая модель для генерации ответов в диалогах и использования инструментов, совместимая с форматом ChatML и запуском через LlamaEdge. В README указан английский язык. Модель относится к семейству Llama и содержит 8 млрд параметров. Доступны варианты квантизации от 2 до 8 бит, а также версия f16 размером 16,1 ГБ. Рекомендуемые варианты Q4_K_M, Q5_K_M и Q5_K_S обеспечивают компромисс между размером и сохранением качества; наиболее компактные варианты требуют меньшего объёма памяти, но сопровождаются более заметной потерей качества. Указанный размер контекста — 4096 токенов. Для работы требуется LlamaEdge версии 0.11.3 или новее и соответствующий шаблон prompt: chatml для диалогов или chatml-tool для использования инструментов. README не содержит сведений о лицензии исходной модели или этой сборки, поэтому условия распространения и коммерческого использования по представленным данным определить нельзя.

Fatahillah01/indobert-sts-indonesian — модель Sentence Transformers, созданная дообучением indobenchmark/indobert-base-p1 для оценки семантического сходства предложений на индонезийском языке. Она кодирует предложения и абзацы в плотные векторы размерностью 768 и использует косинусное сходство для сравнения текстов. Архитектура состоит из BERT-трансформера с усреднением токенных представлений; метаданные указывают 151,6 млн параметров и контекст до 512 токенов, тогда как конфигурация модели в README задаёт максимальную длину последовательности 128 токенов. Модель подходит для семантического поиска, поиска перефразировок, кластеризации текстов, классификации на основе эмбеддингов и ранжирования пар предложений по смысловой близости. В README приведён результат Spearman 0,7612 на наборе проверки sbert_val. Модель принимает текст и выдаёт векторные представления; сведения о лицензии в предоставленных данных отсутствуют.

Instructor-XL — модель текстовых эмбеддингов, разработанная исследователями HKU NLP. Это дообученная на инструкциях версия энкодера T5, содержащая 385,2 млн параметров и принимающая текст с контекстом до 512 токенов. Задачу и область применения можно задавать инструкцией при создании эмбеддингов, без дополнительного дообучения модели. Модель предназначена для поиска документов и информации, оценки сходства и релевантности текстов, кластеризации, классификации и оценки текста. Она поддерживает английский язык; в README также приведены примеры применения в научной, финансовой и медицинской областях. Модель выдаёт векторы эмбеддингов, пригодные для этих задач. Доступна по лицензии Apache-2.0.

Jack-3.8-27B-V2-VL-16GB-VRAM — мультимодальная модель независимого исследователя Джонатана Майкла Лэнгфорда и проекта Jack, созданная на основе Qwen/Qwen3.8-27B и рассчитанная на локальный запуск через llama.cpp. Репозиторий содержит веса GGUF и BF16 мультимодальный проектор для работы с изображениями; заявленное назначение — диалоговая и агентная работа с длинным контекстом, включая программирование и многошаговые задачи. Модель использует протокол Jack V2: структурирование рабочего состояния в XML после основного рассуждения, отделение наблюдений и предположений, учёт актуальности сведений и проверку точных результатов детерминированными инструментами. По описанию автора, это предназначено для задач, где важно не смешивать устаревшие планы, конфигурации и результаты. Автор ориентирует релиз на GPU класса 16 ГБ; для полного режима обработки изображений требуется загрузить приложенный проектор. В README рекомендуется отключить MTP; Q4 KV cache описан как результат ранних локальных наблюдений, а не универсальная настройка. Модель имеет 27 млрд параметров; контекстное окно в предоставленных данных не указано. Лицензия — Apache-2.0. Заявленные преимущества протокола и поведение при локальном тестировании основаны на описании автора; независимые сравнительные оценки в предоставленных материалах отсутствуют.

Jan-v1-AIO-GGUF — набор GGUF-квантованных версий моделей семейства Jan-v1, опубликованный prithivMLmods. В состав входят Jan-v1-2509, Jan-v1-edge и Jan-v1-4B, предназначенные для локального запуска через совместимые inference-движки, интеграции с приложением Jan, автономной работы и повышения приватности. Модели ориентированы на генерацию текста, агентское рассуждение, решение задач, использование инструментов, ответы на фактические вопросы и сценарии с веб-поиском. Jan-v1-4B — языковая модель на 4 млрд параметров, построенная на архитектуре Qwen3-4B-thinking и поддерживающая контекст до 256 000 токенов. Для неё заявлена точность 91,1% на бенчмарке SimpleQA. Jan-v1-edge — облегчённая модель для быстрой работы на устройствах с ограниченными ресурсами; она дистиллирована из более крупной Jan-v1 и дообучалась в два этапа: supervised fine-tuning и reinforcement learning with verifiable rewards. В README точные размеры Jan-v1-2509 и Jan-v1-edge, а также сведения о мультимодальности не указаны. Поддерживается английский язык. Доступны варианты с разными типами квантования — от Q2_K до Q8_0, а также BF16, F16 и F32, что позволяет выбирать между размером файлов, требованиями к памяти и потенциальным качеством. Размеры файлов варьируются примерно от 778 МБ до 16,1 ГБ в зависимости от модели и формата. Ограничения включают зависимость производительности от выбранного квантования и оборудования, а также отсутствие в README подробных результатов для всех вариантов. Модели распространяются по лицензии Apache-2.0.

Jina Embeddings v5 Text Small Text Matching — порт для MLX модели эмбеддингов Jina AI, оптимизированный для запуска на компьютерах Apple Silicon с ускорением Metal. Модель основана на архитектуре Qwen3-0.6B и использует предварительно объединённые LoRA-адаптеры для сопоставления текстов; число параметров — 507,9 млн. Модель преобразует поисковые запросы и документы или фрагменты текста в векторы для поиска и оценки смыслового соответствия. Размерность эмбеддингов — 1024, доступно усечение по схеме Matryoshka до 32, 64, 128, 256, 512 и 768 измерений. Максимальная длина последовательности — 32 768 токенов. Порт предназначен для Apple Silicon M1, M2, M3 и M4 и распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. README не уточняет поддерживаемые естественные языки; качество сопоставления для конкретных языков следует проверять отдельно.

KRONOS-8B-V6 — объединённая языковая модель, созданная разработчиком T145 методом TIES с помощью mergekit на базе unsloth/Meta-Llama-3.1-8B-Instruct. В объединение также вошли T145/KRONOS-8B-V1-P2, T145/KRONOS-8B-V1-P3 и mukaj/Llama-3.1-Hawkish-8B. Модель построена на плотной архитектуре Llama и содержит 7,5 млрд параметров. Она предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Контекстное окно составляет до 131 072 токенов. Модель опубликована в формате safetensors и использует библиотеку Transformers. В README приведены результаты оценки, включая 70,22% на IFEval и средний показатель 24,49 по указанной таблице, но без полного контекста этих метрик они не позволяют оценить качество для конкретного применения. Сведения о лицензии и поддерживаемых естественных языках в доступных данных отсутствуют.

Карточка модели Cutting3dg3/LaBSE-TID на Hugging Face совпадает с карточкой sentence-transformers/LaBSE, поэтому описание составлено по ней. LaBSE — перенос многоязычной модели LaBSE в PyTorch, опубликованный командой sentence-transformers. Модель на архитектуре BERT содержит 498,1 млн параметров и отображает предложения на общем векторном пространстве, чтобы сопоставлять их смысл на разных языках. Поддерживает 109 языков; максимальная длина контекста — 512 токенов. Модель подходит для поиска семантически близких предложений, сопоставления текстов на разных языках и построения многоязычных эмбеддингов для семантического поиска и кластеризации. Доступна через библиотеку sentence-transformers и в форматах PyTorch, TensorFlow, Flax и ONNX. Лицензия — Apache-2.0. README указывает на публикацию LaBSE, но не приводит подробностей обучения или сравнительных результатов.

Lamarck-14B-v0.6 — объединённая модель на архитектуре Qwen2, опубликованная sometimesanotion. Она создана как универсальная разговорная модель для генерации текста и рассчитана на многошаговые рассуждения, написание связной прозы и работу на нескольких языках. В карточке указано, что модель занимает первое место по среднему результату среди текстовых ассистентов до 32 млрд параметров на Open LLM Leaderboard; это заявление автора, а не независимая оценка здесь. Модель содержит 14 млрд параметров, принимает текст и генерирует текст, поддерживает контекст до 131072 токенов. README описывает многослойное слияние нескольких моделей и извлечённых LoRA-адаптеров; среди предков упомянута DRT-o1-14B, ориентированная на глубокие рассуждения и перевод. Метаданные отмечают чат и интерфейс вызова инструментов. В качестве заявленных ограничений конкретные слабые стороны не приведены; качество может различаться между языками и задачами. Лицензия — Apache-2.0.

Lapa LLM v0.1.3 Instruct — украинская мультимодальная модель команды Lapa LLM, созданная на базе Gemma 3 12B и дообученная на украинских текстах. В проекте участвовали исследователи Украинского католического университета, AGH University of Krakow, КПИ имени Игоря Сикорского и Львовской политехники. Версия 0.1.3 содержит исправления согласования и проверку pipeline; остальная модель не изменилась. Модель принимает текст и изображения и генерирует текст для диалога, ответов на вопросы, анализа изображений, суммаризации и перевода между английским и украинским языками. В README заявлены контекст входа до 128 тысяч токенов и выход до 8192 токенов. Адаптированный токенизатор заменяет 80 тысяч из 250 тысяч токенов украинскими; разработчики сообщают о сокращении числа токенов для украинского текста примерно в 1,5 раза относительно Gemma 3. Модель предназначена для украинских NLP-сценариев, включая локальную обработку документов, чат-боты и RAG. README отмечает сильные результаты в переводе, вопросах по изображениям и суммаризации, но также сообщает, что разработчики продолжают собирать данные для улучшения обработки изображений и следования инструкциям. Лицензия в метаданных указана как gemma; README заявляет о возможности коммерческого использования.

LD-Zephyria-37b_HEALED — дообученная версия TheSkullery/LD-Zephyria-37b, созданная автором athirdpath. Для обучения применён LoRA-адаптер ранга 128, нацеленный на проекции q и down; использована одна эпоха датасета TheSkullery/Aether-Lite-PurHyDe. Модель представляет собой плотную авторегрессионную языковую модель семейства Mistral с 37,3 млрд параметров и контекстом до 131 072 токенов. Она предназначена для генерации текста и диалогового использования; метаданные также отмечают интерфейс вызова инструментов. Доступны веса в формате safetensors. Лицензия в предоставленных данных не указана.

AtomicChat/LFM2.5-8B-A1B-GGUF — это текстовая генеративная модель в формате GGUF, созданная Atomic Chat на основе LiquidAI/LFM2.5-8B-A1B. Репозиторий содержит самостоятельно выполненные квантования исходных весов с использованием importance matrix, рассчитанной для каждого тензора, поэтому модель предназначена для локального и полностью офлайн-использования через llama.cpp, MLX, vLLM, SGLang и совместимые приложения. Модель рассчитана на роль персонального помощника на устройствах с ограниченными ресурсами: она поддерживает диалог, сложные инструкции, последовательные вызовы инструментов и агентские сценарии. Это текстовая Mixture-of-Experts-модель с 8,5 млрд параметров, 24 слоями и 32 экспертами, из которых для обработки выбираются 4; архитектура также включает 32 attention heads и 8 KV heads. Заявленная длина контекста — до 128 000 токенов, размер словаря — 128 000 токенов. Поддерживаемая модальность — текст; сведения о языках в README не указаны. Сильные стороны модели — высокая скорость инференса на CPU и GPU, широкий выбор квантований от Q2_K до Q8_0 и хорошее сохранение качества при использовании importance matrix. В качестве сбалансированного варианта рекомендуется Q4_K_M, а Q6_K и Q8_0 ориентированы на более высокую точность. К ограничениям относятся неизбежная потеря качества в низкобитных вариантах, требования к памяти, зависящие от выбранного квантования, и необходимость применять chat template LFM2.5 с параметром --jinja; без него возможны некорректно сформированные диалоговые ходы. Лицензия обозначена как other, подробные условия находятся в файле LICENSE.

LiquidAI/LFM2.5-8B-A1B-MLX-4bit — 4-битная версия модели LFM2.5-8B-A1B, разработанной Liquid AI и преобразованной в формат MLX с использованием mlx-lm 0.31.3. Модель предназначена для генерации текста, работы в качестве персонального ассистента на локальном устройстве и сценариев, требующих поддержки function calling. Она поддерживает ChatML-подобный шаблон диалога и явное рассуждение перед финальным ответом. Модель имеет архитектуру Mixture of Experts (MoE); согласно названию базовой модели, она относится к конфигурации 8B-A1B, однако подробные архитектурные характеристики и размер контекста в карточке не указаны. Квантование выполнено до 4 бит на вес с размером группы 64 и affine-режимом, при этом routing gates MoE сохранены в 8 бит. Заявлена поддержка английского, арабского, китайского, французского, немецкого, японского, корейского, испанского и португальского языков. Сильными сторонами являются уменьшенный объём модели благодаря квантованию, пригодность для запуска через MLX и поддержка function calling. Ограничения включают возможное снижение качества из-за 4-битного квантования, а также отсутствие в предоставленной карточке подробных данных о производительности, контексте и аппаратных требованиях. Модель распространяется по лицензии LFM Open License v1.0; условия следует уточнять в файле LICENSE или карточке базовой модели.

Ling-3.0-flash-GGUF — это набор GGUF-конвертаций модели Ling-3.0-flash, разработанной inclusionAI и опубликованной пользователем bloomer010 для запуска через llama.cpp. Модель предназначена для генерации текста, диалоговых и агентских сценариев, включая вызов инструментов, рассуждения и speculative decoding. В основе лежит гибридная архитектура KDA и gated MLA с Mixture-of-Experts на 512 экспертов: общий размер составляет около 124 млрд параметров, из которых активно примерно 5,1 млрд. Конвертации напрямую созданы из BF16 safetensors и включают блок MTP/NextN, поэтому отдельная drafter-модель для этого режима не требуется. Поддерживается контекст до 256K токенов; README не указывает набор языков и наличие мультимодальных возможностей. Доступны варианты квантования от BF16 и Q8_0 до сильно сжатых IQ1 и MXFP4_MOE, что позволяет адаптировать модель к разному объёму памяти. Качество обычно выше у крупных файлов, а малые варианты требуют меньших ресурсов, но могут сильнее терять точность и стабильность. Для эффективного speculative decoding также предлагаются отдельные DSpark draft-модели. Агентское использование в llama.cpp зависит от поддержки актуальных изменений, связанных с Ling parser и обработкой некорректных UTF-8-последовательностей; без них возможны сбои при вызове инструментов в незавершённых блоках рассуждений. Модель распространяется по лицензии MIT.

TheBloke/Llama-2-70B-GGUF — это квантованные файлы большой языковой модели Llama 2 70B, разработанной Meta. Модель предназначена для генерации текста и может использоваться в локальных сценариях: чат-ботах, ассистентах, написании и преобразовании текста, а также других задачах, поддерживаемых text-generation. Указан английский язык; сведения о мультимодальности отсутствуют, поэтому модель следует считать текстовой. Модель основана на Llama 2 70B и распространяется в формате GGUF, разработанном командой llama.cpp. Формат поддерживает метаданные, специальные токены и улучшенную токенизацию. Репозиторий подготовлен TheBloke и содержит варианты квантования от 2 до 8 бит для инференса с использованием CPU и GPU; доступны методы Q2_K, Q3_K, Q4_K, Q5_K и Q6_K с различным компромиссом между размером, скоростью и сохранением качества. Модель совместима с llama.cpp и рядом сторонних интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, ctransformers и llama-cpp-python. К сильным сторонам относятся возможность локального запуска, поддержка CPU и GPU, широкий выбор уровней квантования и совместимость с популярными инструментами. Ограничениями являются очень большой размер исходной модели, потенциальное снижение качества при агрессивном квантовании и отсутствие в предоставленных данных сведений о размере контекста, производительности, точных требованиях к памяти и специализированном дообучении. Лицензия указана как llama2; условия её применения следует проверять в документации Meta.

LatamGPT 1.0 — авторегрессионная плотная Transformer-модель, разработанная командой LatamGPT на базе Meta Llama 3.1 70B. Модель прошла дальнейшее предобучение на данных Латинской Америки и Карибского бассейна и supervised fine-tuning для следования инструкциям и диалогов. Веса содержат 69,5 млрд параметров, контекст — 4096 токенов; модель рассчитана на работу через Transformers и имеет готовый шаблон чата. Модель предназначена для генерации текста и диалоговой помощи на испанском, португальском и английском языках, с особым вниманием к латиноамериканским вариантам речи, региональным реалиям и культурным контекстам. Её можно применять для суммаризации, классификации, редактирования и аналитической поддержки в исследованиях и приложениях для региона. Лицензия — Llama 3.1 Community License; перед использованием и распространением следует соблюдать её условия. Модель может выдавать фактические ошибки, устаревшую информацию и предвзятые ответы; качество меняется в зависимости от языка, страны, предметной области и формулировки запроса. Для работы с весами в BF16/FP16 требуется около 140 ГБ видеопамяти, а в чувствительных и высокорисковых сценариях результаты требуют проверки специалистом. Для сохранения качества рекомендуется использовать поставляемые шаблон чата, токенизатор и конфигурацию генерации.

Snowflake AI Research разработала Snowflake/Llama-3.1-SwiftKV-8B-Instruct — инструкционную языковую модель на архитектуре Llama-3.1 с преобразованием SwiftKV для ускорения вывода. Метод оптимизирует обработку входного промпта: перенастраивает модель и применяет дистилляцию с сохранением знаний, чтобы часть токенов при обработке промпта могла пропускать до половины слоёв. Репозиторий содержит веса в формате safetensors; число параметров — 7,5 млрд, контекст — до 131 072 токенов. Модель предназначена для генерации текста и диалоговых сценариев, где важны скорость обработки промптов и эффективность обслуживания запросов. В README заявлены улучшения пропускной способности, задержки и стоимости до 2 раз при небольшой потере точности; для версии 8B приведены результаты бенчмарков, где среднее значение снизилось с 73,71 до 72,70 относительно базовой модели. Поддерживается лицензия Llama 3.1; применяются её условия использования.

QuantFactory/Llama-3-Open-Ko-8B-GGUF — квантованная версия модели Llama-3-Open-Ko-8B, созданная с использованием llama.cpp. Базовую модель разработал Junbum Lee (Beomi) на основе Meta Llama 3; она представляет собой продолжительно предобученную авторегрессионную языковую модель с оптимизированной архитектурой Transformer. Модель предназначена для генерации текста и кода, а также для адаптации под различные задачи обработки естественного языка, включая дообучение специализированных и диалоговых моделей. Она принимает только текст и генерирует текст или код. Модель ориентирована прежде всего на английский и корейский языки; для обучения использовались более 17,7 млрд токенов и свыше 60 ГБ дедуплицированных общедоступных текстов. Размер модели — 8B параметров, контекст — до 8 тысяч токенов, поддерживается Grouped-Query Attention (GQA), дата отсечения знаний — июнь 2023 года. К сильным сторонам относятся адаптация Llama 3 к корейскому языку, открытые данные обучения и доступность в квантованном формате, потенциально снижающем требования к ресурсам при локальном запуске. Ограничения заключаются в том, что это статическая офлайн-модель без встроенного обновления знаний и базовая предобученная версия, а не готовая instruction-tuned модель; для диалоговых сценариев и соблюдения требований безопасности может потребоваться дополнительное дообучение и внешние защитные механизмы. Использование регулируется лицензией Llama 3 и соответствующей Acceptable Use Policy; необходимо соблюдать их ограничения и применимое законодательство.

Llama-SEA-LION-v3-8B-IT — инструктивно дообученная языковая модель AI Singapore, разработанная командой Products Pillar при финансировании Национального исследовательского фонда Сингапура. Это плотная декодерная модель на архитектуре Llama 3.1 с 7,5 млрд параметров, предназначенная для диалогов и выполнения пользовательских инструкций. Она принимает текст и генерирует текст; заявленная длина контекста — 128 тыс. токенов. Модель обучена следовать инструкциям на английском, индонезийском, яванском, сунданском, тамильском, тайском и вьетнамском языках. Карточка также заявляет поддержку бирманского, китайского, филиппинского, кхмерского, лаосского и малайского; метаданные каталога отдельно отмечают английский, китайский, вьетнамский, индонезийский, тайский и тамильский. Подходит для многоязычных диалогов, ответов на вопросы, суммаризации, перевода и других текстовых задач. Распространяется по лицензии Llama 3.1 Community License. Модель может галлюцинировать, выдавать нерелевантные ответы и непоследовательно рассуждать; её безопасность специально не настраивалась, поэтому ответы и сценарии использования требуют проверки.

Карточка модели WariHima/llm-jp-4-33b-thinking на Hugging Face совпадает с карточкой llm-jp/llm-jp-4-33b-thinking, поэтому описание составлено по ней. LLM-jp-4-33b-thinking — плотная трансформерная языковая модель семейства Llama, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Она предназначена для диалогов, генерации ответов и решения задач с рассуждением на японском и английском языках; поддерживает интерфейс вызова инструментов. Модель содержит 32,2 млрд параметров, имеет 64 слоя и контекст до 65 536 токенов. Она обучалась на этапах предварительного и промежуточного обучения на 11,7 трлн токенов, затем прошла SFT и выравнивание DPO без обучения с подкреплением. Доступна в формате Safetensors для Transformers, лицензия — Apache-2.0. Разработчики отмечают, что модель находится на раннем этапе исследований и разработок и не настроена для гарантированного соответствия человеческим намерениям и требованиям безопасности. Для корректной работы следует использовать приложенный токенизатор: он отличается от предположений библиотеки openai-harmony, несмотря на совместимость шаблона диалога с Harmony.

saishf/Long-SOVL-Experiment-8B-L3-262K — объединённая разговорная языковая модель, созданная с помощью mergekit методом Model Stock на базе gradientai/Llama-3-8B-Instruct-262k. В объединение вошли модели Aura, BlueMoon, Luna, RP_Format_QuoteAsterisk и Smarts от ResplendentAI. Модель построена на архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и принимает текст для генерации текста; поддерживает контекст до 262 144 токенов. Модель предназначена для диалогов и генерации ответов, включая работу с длинными текстами в пределах контекстного окна. Репозиторий содержит веса в формате safetensors. Сведения о лицензии и конкретных ограничениях качества в предоставленных данных отсутствуют.

M3E-Large — текстовая модель эмбеддингов, разработанная MokaAI на базе архитектуры RoBERTa из серии моделей лаборатории HFL и распространяемая в формате PyTorch. Модель содержит 424,3 млн параметров, формирует плотные векторы размерности 768 и обрабатывает последовательности длиной до 512 токенов. Модель предназначена прежде всего для китайского текста и поддерживает ограниченные сценарии с английским. Она обучалась контрастивным методом с внутрипакетными отрицательными примерами на китайских парах предложений и английских триплетах; при кодировании может учитывать инструкции. Её применяют для оценки сходства текстов, поиска релевантных фрагментов по запросу и построения текстовых классификаторов на эмбеддингах. Модель совместима с Sentence Transformers и может использоваться в системах семантического поиска и RAG. В карточке приведены результаты сравнительных тестов сходства, классификации и поиска; качество зависит от данных и сценария, а для кода модель не предназначена. Контекст ограничен 512 токенами. Лицензия в доступных сведениях не указана.

Meta-Llama-3.1-8B-Instruct-abliterated-IMat-GGUF — это GGUF-сборка инструкционной языковой модели mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated, подготовленная и квантованная пользователем legraphista с помощью llama.cpp. Модель предназначена для генерации текста и диалогового использования в локальных приложениях, поддерживающих формат GGUF и llama.cpp. Доступны варианты от BF16 и FP16 до квантований Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ4. Для ряда вариантов применена IMatrix-квантизация, призванная сохранить качество при уменьшении размера модели. Размер базовой модели составляет 8B параметров, исходный тип данных — BF16. В README не указаны точный размер контекста, перечень поддерживаемых языков и мультимодальные возможности; по представленным данным это текстовая модель без заявленной поддержки изображений или других модальностей. Сильными сторонами сборки являются широкий выбор уровней квантования, возможность локального запуска и наличие вариантов, оптимизированных по соотношению качества и потребления памяти. Ограничения включают потенциальную потерю качества в низкобитных вариантах, зависимость производительности от оборудования и совместимость с llama.cpp или другим ПО, поддерживающим GGUF. Основа модели обозначена как abliterated и uncensored, поэтому встроенные ограничения безопасности могут быть ослаблены; это следует учитывать при использовании. Указанная лицензия — Llama 3.1.

keeeeenw/MicroLlama-text-embedding — англоязычная модель Sentence Transformers, дообученная разработчиком на базе keeeeenw/MicroLlama. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для сравнения смысловой близости и поиска по тексту. Модель использует архитектуру LlamaModel с усреднённым пулингом токенов, принимает текстовые последовательности длиной до 2048 токенов и рассчитывает сходство по косинусной мере. Модель обучалась на наборах all-nli, STSB, Quora и Natural Questions. Её можно применять для семантического поиска, поиска перефразировок, кластеризации и классификации текста. Она рассчитана на английский язык; качество для других языков не заявлено. Лицензия в предоставленных данных не указана.

Mistral-11B-OmniMix9-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral-7B-Instruct-v0.2 и Mistral-11B-OmniMix9 методом SLERP. Модель имеет плотную архитектуру MistralForCausalLM и около 7,1 млрд параметров; она предназначена для генерации текста и ответов на инструкции в формате чата. Модель принимает текст и генерирует текст. Контекст составляет до 32 768 токенов. Карточка не сообщает о специализации по конкретным предметным областям или языкам. Репозиторий распространяет веса в формате safetensors; лицензия — Apache-2.0.

unsloth/mistral-7b-instruct-v0.3 — версия Mistral 7B Instruct, опубликованная Unsloth. Это плотная авторегрессионная языковая модель на 7,1 млрд параметров для генерации текста и диалогов по инструкциям; в метаданных указаны библиотека Transformers и контекст до 32 768 токенов. Модель принимает текст и выдаёт текст, поддерживает английский язык и интерфейс вызова инструментов. Модель подходит для диалоговых помощников и генерации ответов по запросу. README описывает её как основу для дообучения в разговорном формате ShareGPT/ChatML или Vicuna, а также для задач продолжения текста и DPO. Репозиторий содержит веса Safetensors; указана лицензия Apache 2.0. Это instruct-модель общего назначения, поэтому её ответы могут содержать ошибки и требуют проверки в критичных сценариях. README посвящён примерам и инструментам дообучения Unsloth и не приводит оценки качества самой модели.

Карточка модели avsolatorio/MixEmbedFinetune-base-20240122220746-best на Hugging Face совпадает с карточкой avsolatorio/MixEmbedFinetune-base-20240122220725-best, поэтому описание составлено по ней. avsolatorio/MixEmbedFinetune-base-20240122220725-best — модель текстовых эмбеддингов на базе BERT, представленная в карточке как gte-small. Семейство GTE разработано Alibaba DAMO Academy и обучалось на большом наборе пар текстов с оценками релевантности; конкретный репозиторий содержит дообученную модель размером около 40 млн параметров. Модель предназначена для получения векторных представлений английских текстов и их сравнения по смыслу. Её можно применять для семантического поиска, оценки сходства предложений, поиска релевантных документов и ранжирования текстов. Максимальная длина последовательности — 512 токенов; более длинный ввод обрезается. Лицензия — MIT.

Карточка модели avsolatorio/MixEmbedFinetune-base-20240122220746-latest на Hugging Face совпадает с карточкой avsolatorio/MixEmbedFinetune-base-20240122220725-best, поэтому описание составлено по ней. avsolatorio/MixEmbedFinetune-base-20240122220725-best — модель текстовых эмбеддингов на базе BERT, представленная в карточке как gte-small. Семейство GTE разработано Alibaba DAMO Academy и обучалось на большом наборе пар текстов с оценками релевантности; конкретный репозиторий содержит дообученную модель размером около 40 млн параметров. Модель предназначена для получения векторных представлений английских текстов и их сравнения по смыслу. Её можно применять для семантического поиска, оценки сходства предложений, поиска релевантных документов и ранжирования текстов. Максимальная длина последовательности — 512 токенов; более длинный ввод обрезается. Лицензия — MIT.