I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельgranite-4.2-8b-MLX-8bit — 8-битная квантованная версия модели granite-4.2-8b, разработанной командой IBM Granite (ibm-granite). Квантование выполнено командой LM Studio с использованием mlx_lm, а модель оптимизирована для работы на устройствах Apple Silicon. Модель предназначена для генерации текста и поддерживает сценарии рассуждений, «thinking» и вызова инструментов. В README указаны следующие языки: английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский. Модель имеет 8 миллиардов параметров в исходной версии; конкретное значение контекстного окна и сведения о мультимодальности не указаны. Ключевые преимущества — сниженное потребление памяти благодаря 8-битному представлению и оптимизация для Apple Silicon. Ограничения включают зависимость от совместимой MLX-среды и возможное появление неточного, вредного или неподходящего контента. Модель распространяется по лицензии Apache-2.0. LM Studio не является разработчиком или владельцем модели и не гарантирует её точность, безопасность, доступность или соответствие конкретным требованиям.
Granite-Embedding-30m-Sparse — разреженная модель для построения текстовых представлений, разработанная командой Granite Embedding в IBM. Она основана на энкодерной архитектуре на базе RoBERTa, содержит 33,5 млн параметров и рассчитана на английский язык. Модель кодирует текст в словарь токенов и их весов переменной длины, включая расширения исходных токенов. Представления подходят для семантического поиска, извлечения релевантных документов и сравнения текстов. Модель обучалась с использованием предварительного обучения для задач поиска, контрастивной настройки и дистилляции; в карточке сообщается о конкурентных результатах на тестах BEIR, включая сравнение с более крупной SPLADE-моделью. Её можно применять, например, с Sentence Transformers и Milvus. Контекст ограничен 512 токенами: более длинный текст обрезается. Модель обучена только на английских текстах. Лицензия — Apache 2.0.
munekazu/Huihui-Qwen3.8-27B-abliterated-FP8 — FP8-квантизированная версия модели Huihui-Qwen3.8-27B-abliterated от huihui-ai, созданная на основе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста и мультимодальных сценариев с использованием текста и изображений, а также для развёртывания через vLLM. Это abliterated-версия, в которой удалены ограничения на отказы, присутствующие в исходной модели. Модель имеет размер 27B параметров и использует block-wise FP8-квантизацию формата e4m3 с блоками 128×128 и динамическими активациями. Объём хранения сокращён примерно с 52 GiB в BF16 до 29 GiB в FP8. Vision tower, нормализационные слои и отдельные компоненты MTP-головы сохранены в BF16, что обеспечивает поддержку мультимодального пути vLLM и speculative decoding. Заявлена поддержка контекста до 262 144 токенов; для рассуждений используется шаблон чата с параметром reasoning_effort. Сильные стороны модели — уменьшенные требования к памяти, поддержка мультимодальности, MTP speculative decoding и сохранение значительной части поведения базовой модели благодаря абляции только среднего диапазона слоёв. Ограничения включают зависимость от совместимости vLLM и аппаратного обеспечения: на GPU Ampere FP8 не использует нативные tensor cores и применяется kernel Marlin W8A16, поэтому экономия памяти не сопровождается ускорением вычислений. В vLLM 0.24.0 также наблюдалась проблема с возвратом reasoning_content через API, хотя качество ответов не страдает. Модель распространяется по лицензии Apache-2.0.
IndicSBERT-STS — модель семейства Sentence-BERT от L3Cube-Pune, выпущенная в рамках проекта MahaNLP. Она построена на архитектуре BERT и обучена на данных STS для десяти крупных индийских языков; одна модель сопоставляет предложения на английском, хинди, маратхи, каннада, тамильском, телугу, гуджарати, ория, пенджаби, малаялам и бенгальском, в том числе между языками. Модель предназначена для получения векторных представлений предложений и оценки их семантического сходства; размер составляет 264,8 млн параметров, максимальный контекст — 512 токенов. Её можно применять для поиска похожих предложений, межъязыкового сопоставления и построения семантического поиска по текстам на поддерживаемых языках. Лицензия CC BY 4.0 требует указания авторства. Карточка рекомендует Sentence-Transformers либо применение подходящего pooling поверх контекстных представлений BERT при использовании Transformers.
Instruct_Llama3_8B — авторегрессионная языковая модель на архитектуре Llama 3, дообученная Brillibits на разнообразных источниках данных. Модель содержит 7,5 млрд параметров и рассчитана на генерацию текста по инструкциям на английском языке; для общения используется формат промпта с системной частью и инструкцией. Модель обучали два этапа эпох с использованием QDora; в README указан контекст обучения 4096 токенов, а в метаданных — нативный контекст 8192 токена. Подходит для ответов на вопросы, выполнения текстовых инструкций и других сценариев генерации текста. Доступна в формате safetensors по лицензии Llama 3.
InternLM2.5-1.8B-Chat — диалоговая языковая модель семейства InternLM2, разработанная командой InternLM. Это плотная авторегрессионная модель с 1,7 млрд параметров и контекстом до 32 768 токенов, предназначенная для практических сценариев общения с LLM. Модель генерирует ответы на запросы, демонстрирует способности к математическим рассуждениям и может работать с инструментами в многошаговых сценариях: README описывает выбор инструментов, анализ результатов и сбор сведений с множества веб-страниц. В метаданных также указана поддержка классификации текста. Модель принимает текст и выдаёт текст; карточка содержит примеры на английском и китайском, но не задаёт полный перечень поддерживаемых языков. Разработчики отмечают сильные результаты на отдельных тестах рассуждения, однако качество ответов может варьироваться. Возможны предвзятые, дискриминационные или иные вредоносные ответы, поэтому результаты требуют проверки. В метаданных лицензия обозначена как other; README указывает, что код распространяется по Apache-2.0, а для весов доступ к академическим исследованиям открыт и коммерческое использование возможно по бесплатной заявке.
JOSIE-1.1-4B-Thinking — плотная языковая модель с 3,7 млрд параметров, разработанная Gökdeniz Gülmez на основе Qwen3-4B-Thinking-2507. Это полновесное дообучение для многошаговых рассуждений, математики, научно-технических задач и творческого письма. Модель поддерживает чат и генерацию текста; в карточке указана работа с 13 языками, включая русский, английский, испанский, французский, немецкий, китайский и японский. Метаданные указывают контекст до 262 144 токенов, а README — до 65 536 токенов, поэтому заявленная длина контекста расходится между источниками. Модель предназначена для решения логических задач, математических вычислений, технического анализа и работы с длинными документами. В описании заявлены последовательные рассуждения и прямой стиль ответов без излишней угодливости. Лицензия — MIT. Модель не имеет встроенной фильтрации контента и может выдавать неподходящие ответы. Результаты в узкоспециализированных областях могут быть нестабильны; критически важные ответы следует проверять. README также предупреждает, что для вывода требуется достаточно мощное оборудование.
Kai-30B-Instruct-i1-GGUF — набор квантованных GGUF-версий модели Kai-30B-Instruct, разработанной NoesisLab и квантованной mradermacher. Модель ориентирована на генерацию текста, следование инструкциям, математические и логические рассуждения, программирование и другие задачи, связанные с текстом. В метаданных также указана тематика ads и distillation, однако подробности соответствующей специализации не приведены. Базовая модель содержит около 30 миллиардов параметров; архитектура и размер контекста в README не указаны. Поддерживаемый язык — английский. Модель работает с текстом и поставляется в различных вариантах квантования, включая IQ1–IQ4, Q2–Q6 и другие форматы. Доступны версии с разным компромиссом между размером, скоростью и качеством: например, i1-Q4_K_M отмечена как быстрая и рекомендуемая, а i1-Q4_K_S — как оптимальная по соотношению размера, скорости и качества. Наиболее компактные варианты имеют заметно более низкое качество. Основные преимущества — возможность локального запуска в формате GGUF и широкий выбор вариантов квантования под доступные ресурсы. Ограничения включают возможное ухудшение качества при низких уровнях квантования, отсутствие данных о контекстном окне, мультимодальности, результатах оценки и языках помимо английского. Лицензия базовой модели — Apache-2.0; README не уточняет, распространяются ли квантованные файлы на дополнительных условиях.
Карточка модели logexp1/klue-roberta-base-klue-sts-mrc на Hugging Face совпадает с карточкой Jinsol0802/klue-roberta-base-klue-sts-mrc, поэтому описание составлено по ней. Jinsol0802/klue-roberta-base-klue-sts-mrc — модель эмбеддингов предложений на архитектуре RoBERTa, представленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения близости текстов и кластеризации. Обучение с MultipleNegativesRankingLoss оптимизирует сходство косинусной мерой; размер модели — 137,8 млн параметров, максимальный контекст — 514 токенов. Модель рассчитана на работу с текстом и подходит для поиска похожих фрагментов и группировки семантически близких текстов. Идентификатор и название базового семейства указывают на ориентацию на корейский язык KLUE, однако в доступной карточке отдельный список поддерживаемых языков не приведён. Ограничения: представление текста сведено к вектору, поэтому модель сама не генерирует ответы; качество поиска и сравнения зависит от соответствия домена и данных. Файлы представлены в формате safetensors; лицензия в предоставленных сведениях не указана.
Kryton Muse v1 — плотное текстовое генеративное семейство Qwen2, созданное Kryton-Protocol как линейное слияние весов в формате SafeTensors: 90% Qwen2.5-1.5B-Instruct и 10% Qwen2.5-1.5B. Модель содержит 1,5 млрд параметров, использует токенизатор и конфигурацию генерации инструкционной версии и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом и инструкционном формате; в метаданных также отмечен интерфейс вызова инструментов. Она прошла детерминированную проверку загрузки через Transformers на CPU и тест генерации текста. Для практического применения следует оценить следование инструкциям, качество промптов, достоверность, безопасность и регрессии. Лицензия — Apache-2.0.
LFM2.5-Embedding-350M-4bit — 4-битная MLX-сборка мультиязычной плотной двунаправленной модели-энкодера Liquid AI. Она преобразует запросы и документы в 1024-мерные векторы; косинусное сходство между ними подходит для семантического поиска и сопоставления предложений, включая поиск между языками. Модель предназначена для локального запуска на устройствах Apple Silicon с MLX. В репозитории веса переведены из формата PyTorch/safetensors в MLX и квантованы до 4 бит с аффинной схемой и размером группы 64. В README указано, что на наборе из восьми оценённых датасетов качество поиска сохранилось близким к bf16-версии: среднее удержание NDCG@10 составило 100%, Recall@10 — 98,6%. Оценка для мультиязычных наборов проводилась на сокращённых пулах документов, поэтому абсолютные результаты нельзя напрямую сравнивать с результатами на полных корпусах. Метаданные указывают 444,6 млн параметров и контекст до 128 000 токенов. Поддерживаемые языки включают английский, испанский, немецкий, французский, итальянский, португальский, арабский, шведский, норвежский, японский и корейский. Лицензия отмечена как other; конкретные условия следует сверить с карточкой базовой модели LiquidAI/LFM2.5-Embedding-350M.
Ling-3.0-tiny-GGUF — набор квантизованных файлов модели Ling-3.0-tiny, разработанной IBM и опубликованной в формате GGUF для запуска через llama.cpp. Модель предназначена для локального и периферийного развертывания, генерации текста, задач рассуждения и агентских сценариев с возможностью выбирать между быстрым ответом и режимом пошагового reasoning. Модель содержит 7,9 млрд параметров, из которых на каждый токен активируется около 1,3 млрд. Она использует гибридную архитектуру с чередованием слоёв KDA (Kimi Delta Attention) и MLA (Multi-Head Latent Attention) в соотношении 3:1, а также разреженный MoE-слой с 128 маршрутизируемыми экспертами. Заявлена поддержка эффективной обработки длинного контекста, однако конкретный максимальный размер контекста и поддерживаемые языки в README не указаны. Для файлов доступны варианты от BF16 и F16 до экстремально сжатых 1–8-битных квантований; типичный компромисс между качеством и размером — Q4_K_M. Сильные стороны модели — малое число активируемых параметров, экономичное потребление памяти, высокая скорость инференса и встроенный настраиваемый режим рассуждения. В README приведены ориентиры около 100–105 токенов в секунду на NVIDIA DGX Spark и 86–90 токенов в секунду на MacBook с M4 Pro при FP8, а также пиковое потребление около 8,34 ГБ памяти при контексте 8K. Ограничения зависят от выбранного уровня квантования: сильное сжатие снижает качество и может ухудшать связность ответов. Лицензия в предоставленном README не указана.
Lite-Whisper large-v3 — сжатая версия мультиязычной модели распознавания речи Whisper, разработанная авторами LiteASR на основе openai/whisper-large-v3. Модель принимает аудио и преобразует речь в текст; её можно применять для транскрибации записей и других сценариев автоматического распознавания речи. В карточке указаны 905,2 млн параметров, архитектура LiteWhisperForConditionalGeneration и формат Safetensors. В сравнении на наборах ESB средняя частота ошибок слов (WER) составляет 10,2; для Whisper large-v3 в той же таблице указано 10,1. Модель распространяется по лицензии Apache-2.0.
Llama 2 70B Chat — это диалоговая языковая модель семейства Llama 2, разработанная Meta. Данный репозиторий содержит её квантизированные файлы в формате GGUF, подготовленные TheBloke на основе оригинальной модели meta-llama/Llama-2-70b-chat-hf. Модель предназначена для генерации текста и ведения диалогов: ответов на вопросы, выполнения инструкций и создания связных текстовых ответов. Указан английский язык. Архитектура — Llama, размер — 70 миллиардов параметров, модальность — текстовая. Максимальный размер контекста в README не указан. Для работы используется специальный шаблон запросов Llama 2 Chat с системными инструкциями о полезных, безопасных и честных ответах. Формат GGUF поддерживает метаданные и специальные токены и совместим с llama.cpp, а также рядом пользовательских интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, ctransformers и llama-cpp-python. Доступны варианты квантизации от 2 до 8 бит для CPU+GPU-инференса, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством ответов; конкретные характеристики зависят от выбранного варианта. Репозиторий распространяется по лицензии Llama 2.
yentinglin/Llama-3.1-Taiwan-8B-Instruct — чат-модель на базе архитектуры Llama, разработанная yentinglin. Она предназначена для генерации текста в диалогах и других сценариях, где требуется следовать инструкциям. Модель содержит 7,5 млрд параметров, использует библиотеку Transformers и формат Safetensors; заявленная длина контекста — 131 072 токена. В метаданных также отмечен интерфейс вызова инструментов. Карточка предупреждает, что ответы нужно самостоятельно проверять на точность и пригодность. Модель не предназначена для медицинской диагностики, юридических консультаций и финансовых решений. В предоставленных материалах условия лицензии не описаны.
ApolloRaines/Llama-3.3-8B-Instruct-128K-Jbliterated — доработанная командой ApolloRaines модель на архитектуре Llama 3.3 для диалогов и генерации текста. Она создана на основе shb777/Llama-3.3-8B-Instruct-128K с применением jBlaze precision neural surgery; изменены все 32 слоя. Модель содержит 7,5 млрд параметров, использует формат safetensors и поддерживает контекст до 131 072 токенов. Модель предназначена для общения и генерации текста с длинным контекстом. В карточке заявлена настройка на снижение отказов: в тесте Heretic на 100 запросах авторы сообщили о нуле настоящих отказов и двух ложных срабатываниях. Авторы также описывают выпуск как демонстрационную версию с намеренно сниженной силой возможностей, а не полную версию продукта. Заявления о скорости и результатах теста относятся к сведениям карточки модели. Поддерживаемые языки по метаданным: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Лицензия — Llama 3.1 Community License; применяйте модель с учётом её условий и ограничений.
LLamaPhi3 — языковая модель семейства Llama, созданная bunnycore путём объединения частей двух моделей с помощью Mergekit: Dolphin-2.9.1-Phi-3-Kensho-4.5B-abliterated-v3 и HyperLlama-3.1-8B. В конфигурации указаны метод passthrough и формат весов bfloat16. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Репозиторий содержит веса Safetensors, а заявленный контекст составляет 131072 токена. Модель насчитывает 6,2 млрд параметров. Лицензия — Apache-2.0. Карточка не описывает языковую специализацию или подробные ограничения качества, поэтому их нельзя надёжно уточнить.
ThomasBaruzier/Meta-Llama-3.1-405B-Instruct-GGUF — это версия большой языковой модели Meta-Llama-3.1-405B-Instruct, подготовленная в формате GGUF для задач генерации текста. Базовую модель разработала Meta; карточка размещена пользователем ThomasBaruzier. Модель предназначена для диалогов, следования инструкциям, подготовки и преобразования текстов и других сценариев, где требуется генерация на естественном языке. Модель относится к семейству Llama 3.1 и имеет размер 405 миллиардов параметров. Она работает с текстовой модальностью и предназначена для text-generation. В карточке заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Архитектура и размер контекстного окна для этой конкретной сборки не указаны. Формат GGUF может быть удобен для локального запуска совместимыми средствами, однако модель такого масштаба требует значительных вычислительных ресурсов. Модель может обеспечивать высокое качество следования инструкциям и генерации текста благодаря крупному размеру, но её практическая применимость ограничена требованиями к памяти и производительности оборудования. Лицензия указана как Llama 3.1 Community License. При распространении материалов необходимо соблюдать условия Meta, включая предоставление текста лицензии, указание «Built with Llama», сохранение атрибуции и соблюдение Acceptable Use Policy; для продуктов с более чем 700 миллионами ежемесячных активных пользователей предусмотрены дополнительные лицензионные требования.
FriendliAI/Meta-Llama-3.1-8B-Instruct-fp8 — языковая instruction-tuned модель для генерации текста, диалогов и выполнения текстовых инструкций. Модель разработана FriendliAI на базе Meta-Llama-3.1-8B от Meta и предназначена для использования в сценариях, требующих компактной модели с пониженной точностью представления FP8. Модель работает с текстом и заявлена для семи языков: английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского. В карточке указаны размер 8B параметров и формат FP8, однако сведения об архитектуре, длине контекста, методе квантования и конкретных показателях качества отсутствуют. Сильной стороной является сочетание инструкционного обучения и относительно небольшого размера, что может упростить развертывание; ограничения и фактическая производительность зависят от инфраструктуры и прикладного сценария. Модель распространяется по лицензии Llama 3.1 Community License. При распространении материалов или производных продуктов необходимо соблюдать условия лицензии Meta, включая предоставление текста соглашения, указание «Built with Llama», сохранение атрибуции и соблюдение Acceptable Use Policy. Для продуктов с более чем 700 миллионами ежемесячных активных пользователей требуется отдельное разрешение Meta.
Meta-Llama-3.1-8B-Instruct-GGUF — квантизированная версия инструкционной языковой модели Meta-Llama-3.1-8B-Instruct, разработанной Meta Llama и подготовленной для распространения компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций и работу в приложениях на базе GaiaNet. Для взаимодействия используется шаблон llama-3-chat, а запуск поддерживается llama.cpp. Модель основана на архитектуре Llama и содержит 8 миллиардов параметров. Она работает в текстовой модальности, поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Заявленный размер контекста составляет 128 000 токенов. Квантизация выполнена с использованием llama.cpp b4466, что делает модель более подходящей для запуска в средах с ограниченными ресурсами, однако README не уточняет конкретный формат квантизации, требования к оборудованию и возможные компромиссы между скоростью, качеством и потреблением памяти. Модель распространяется по лицензии llama3.1. README не содержит подробностей о дополнительных ограничениях лицензии и не приводит результаты оценки качества, поэтому её преимущества и ограничения можно описать только на общем уровне: это компактная инструкционная модель с широкой поддержкой языков и большим контекстом, но без подтвержденных характеристик производительности для отдельных задач.
Карточка модели rombodawg/Meta-Llama-3.1-8B-reuploaded на Hugging Face совпадает с карточкой unsloth/Meta-Llama-3.1-8B, поэтому описание составлено по ней. Meta-Llama-3.1-8B — плотная авторегрессионная языковая модель семейства Llama, опубликованная Meta и представленная в репозитории Unsloth в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев; карточка также описывает её как основу для дообучения с помощью ноутбуков Unsloth. Модель содержит 7,5 млрд параметров, работает с текстом и поддерживает контекст длиной до 131 072 токенов. В метаданных указан английский язык. Для использования действует лицензия Llama 3.1. README не приводит результатов оценки качества или подробных ограничений применения.
miCSE — модель для получения семантических векторных представлений предложений и коротких абзацев, разработанная Tassilo Klein и Moin Nabi. Она использует архитектуру BERT и обучена контрастивным методом с регуляризацией распределения self-attention: согласование представлений разных dropout-аугментированных вариантов текста помогает эффективнее обучаться на небольших наборах данных. Векторы извлекаются из токена [CLS] и подходят для сравнения сходства предложений, поиска и кластеризации. Модель обучалась на английских предложениях из Википедии; в статье также исследуется обучение на малых выборках корпуса SimCSE. Контекст составляет 512 токенов, размер модели — 136,7 млн параметров. Для адаптации few-shot подхода к собственным данным README указывает на необходимость обучения модели на этих данных. Лицензия — Apache-2.0.
dataera2013/midterm-ft-2 — дообученная модель Sentence Transformers на базе Snowflake/snowflake-arctic-embed-l, разработанная для сравнения и поиска текстов по смыслу. Она преобразует предложения и абзацы в плотные векторы размерности 1024; близость оценивается косинусным сходством. Архитектура включает BERT-трансформер, объединение представлений по токену CLS и нормализацию векторов. Модель подходит для семантического поиска, оценки сходства предложений, поиска перефразирований, кластеризации и классификации текстов. Максимальная длина входа — 512 токенов. В README приведены результаты оценки поиска по информации, включая точность cosine_accuracy@1 0,7519 и cosine_accuracy@5 0,8372. В карточке указана лицензия не приведена, поэтому условия использования по доступным данным определить нельзя. Набор для дообучения содержит 238 пар текстов, поэтому результаты могут зависеть от соответствия пользовательских данных этому ограниченному набору.
mindy-7b-v2-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная объединением mindy-labs и Mistral-7B-Instruct-v0.2 методом SLERP. Модель построена на архитектуре Mistral с 7,1 млрд параметров и предназначена для генерации текста и ответов на инструкции в формате чата. Контекст — до 32 768 токенов. Модель принимает текст и генерирует текстовые ответы; в карточке указана поддержка диалогового режима. Она может применяться для чат-ботов, ответов на вопросы и выполнения инструкций. Репозиторий содержит веса в формате safetensors. Лицензия — Apache 2.0.
MiniCPM-Embedding-Light — двуязычная модель текстовых эмбеддингов для поиска, разработанная ModelBest совместно с лабораторией обработки естественного языка Университета Цинхуа (THUNLP) и группой информационного поиска Северо-Восточного университета (NEUIR). Она предназначена для семантического поиска на китайском и английском языках, а также для поиска между ними, включая сценарии RAG и длинные документы. Модель построена на архитектуре MiniCPM с двунаправленным вниманием и взвешенным усреднением токенов. В README указаны размер 440 млн параметров, размерность эмбеддинга 1024, поддержка плотных и разреженных токеновых векторов и изменяемой размерности представления Matryoshka. README заявляет поддержку до 8192 токенов, тогда как метаданные каталога указывают контекст 4096 токенов. Она обучалась в несколько этапов примерно на 260 млн примеров, включая открытые, синтетические и закрытые данные; запросы можно подавать с инструкцией или без неё. Модель подходит для поиска релевантных документов и межъязычного поиска на китайском и английском языках. Метаданные также указывают возможности чата, но README описывает её как модель эмбеддингов, а не генеративную модель, поэтому основное назначение — извлечение признаков и векторов для поиска. Лицензия в предоставленных данных не указана.
Mirai Nova — дообученная LocalAI модель на архитектуре Llama 3, созданная для генерации текста и диалогов. Разработчики ориентируют её на вызов функций и отмечают усиленные способности к рассуждению; модель также подходит для общих текстовых задач. В LocalAI она рассчитана на работу с вызовом функций через грамматики. Чекпойнт содержит 7,5 млрд параметров, поддерживает контекст до 8192 токенов и распространяется в формате safetensors. Сведений о лицензии в использованных данных нет.
miscii-14b-0218 — плотная языковая модель семейства Qwen2, созданная sthenno-com на основе Qwen2.5-14B-Instruct и объединения нескольких чекпойнтов методом Model Stock с помощью MergeKit. Модель содержит 14 млрд параметров, рассчитана на генерацию текста и чат; её родной контекст — до 131 072 токенов. Модель подходит для диалоговых сценариев, генерации и продолжения текста, а также подготовки структурированных ответов. В тегах карточки перечислены китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки; при этом основной язык отдельно не выделен. Репозиторий использует Transformers и формат safetensors. Лицензия — Apache-2.0. Это объединённая модель на основе нескольких промежуточных SFT-чекпойнтов, поэтому поведение и качество могут отличаться от исходной Qwen2.5-14B-Instruct. README не приводит результатов сравнительной оценки или конкретных гарантий качества.
chargoddard/mistral-11b-slimorca — текстовая генеративная модель, созданная Chargoddard дообучением на двух эпохах датасета Open-Orca/SlimOrca. Она использует формат запросов Mistral Instruct и предназначена для диалогов и генерации ответов по инструкциям. Модель основана на варианте рецепта Mistral 11B: до обучения добавленные слои были настроены так, чтобы выход совпадал с Mistral 7B. Это плотная архитектура MistralForCausalLM с 10,6 млрд параметров и контекстом до 32 768 токенов. В карточке приведены результаты нескольких тестов, но они не гарантируют качество в конкретных прикладных сценариях. Модель распространяется по лицензии Apache-2.0.
Mistral 7B Instruct — текстовая языковая модель с приблизительно 7 млрд параметров, представленная в репозитории casperhansen. Данная версия представляет собой AWQ-квантизированный вариант модели, подготовленный с использованием AutoAWQ. README не уточняет исходного разработчика базовой модели, поддерживаемые языки и максимальный контекст. Модель предназначена для генерации текста и выполнения инструкций в диалоговом формате. В качестве сценариев использования указаны загрузка через AutoAWQForCausalLM и Transformers, потоковая генерация ответов, а также инференс через vLLM. Пример применения демонстрирует формат запросов Mistral с маркерами [INST] и [/INST], а также генерацию продолжений текста. Ключевое преимущество версии — AWQ-квантизация, которая может снизить требования к памяти и упростить запуск модели на совместимом оборудовании. Ограничения включают зависимость от совместимых версий Transformers, AutoAWQ или vLLM, а также отсутствие в README сведений о качестве на бенчмарках, языковом охвате, максимальной длине контекста и мультимодальных возможностях; по предоставленным данным модель является текстовой. Лицензия — Apache 2.0.
mistral-7b-openhermes-sft — дообученная методом supervised fine-tuning модель семейства Mistral, разработанная CorticalStack на базе unsloth/mistral-7b-bnb-4bit с использованием набора данных teknium/openhermes. Это плотная авторегрессионная языковая модель с 7,1 млрд параметров и контекстом до 32 768 токенов, предназначенная для генерации текста.