I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельLazarusNLP/all-indo-e5-small-v3 — модель эмбеддингов предложений на базе архитектуры BERT, опубликованная LazarusNLP. Она преобразует предложения и абзацы в плотные векторы размерности 384 для поиска семантически близких текстов, кластеризации и других задач сравнения смысла. Модель обучалась с MultipleNegativesRankingLoss на наборах данных, включающих индонезийские задачи понимания, поиска и сходства текстов. Модель содержит 124,3 млн параметров, принимает текстовые последовательности с контекстом до 512 токенов и выдаёт векторы. Она ориентирована прежде всего на индонезийский язык. Для использования доступны веса Safetensors и библиотека Sentence Transformers; условия лицензии в предоставленных данных не приводятся.
Ara-EuroBERT-610M — разработанная Omartificial-Intelligence-Space модель Sentence Transformers, дообученная на базе EuroBERT/EuroBERT-610m для получения семантических эмбеддингов арабского текста. Энкодер EuroBertModel содержит около 607,8 млн параметров и обрабатывает последовательности до 8192 токенов. Модель преобразует предложения и абзацы в плотные векторы размерностью 1152; доступны вложенные размерности 960, 768 и 512. Для сравнения векторов используется косинусное сходство. Модель подходит для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации. В README приведены результаты тестов семантического сходства на STS17 и STS22.v2, однако сравнение показателей в карточке неоднозначно, поэтому их не следует считать гарантией качества для других данных. Модель рассчитана на арабский язык. Распространяется по лицензии MIT.
GLM-4-32B-Base-32K-GGUF — это квантизированная версия базовой языковой модели GLM-4-32B-Base-32K, разработанной arcee-ai. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска в локальных средах, совместимых с форматом GGUF, включая llama.cpp и LM Studio. Модель имеет размер 32 млрд параметров и поддерживает контекст до 32 000 токенов. В карточке указаны китайский и английский языки. Доступны варианты от BF16 и Q8_0 до более компактных Q2–Q6 и IQ-квантизаций, что позволяет выбирать компромисс между качеством, потреблением памяти и скоростью работы. Более компактные варианты подходят для систем с ограниченной оперативной памятью, но могут заметно уступать по качеству версиям с высокой точностью. Модель является базовой, поэтому её поведение в диалогах и форматирование ответов могут требовать самостоятельной настройки промптов; готовый формат промпта в README не указан. Для запуска необходима совместимая среда и объём памяти, соответствующий выбранному файлу: размер вариантов варьируется примерно от 13,66 до 65,14 ГБ. Лицензия модели — MIT.
ArchBeagle-7B — объединённая модель Mistral с 7,1 млрд параметров, созданная mlabonne с помощью LazyMergekit. Она предназначена для генерации текста и диалогов, в том числе при работе с длинными запросами: размер контекста составляет до 32 768 токенов. Модель объединяет веса WestBeagle-7B, NeuralBeagle14-7B, BeagSake-7B, NeuralOmniBeagle-7B-v2, NeuralOmniBeagle-7B и OmniBeagle-7B. Модель принимает текст и генерирует текст. README не описывает специализацию по языкам или отдельным областям, поэтому её следует рассматривать как модель общего назначения. Репозиторий содержит веса в формате safetensors; лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.
ASTRAL-256k-5.5b — языковая модель от разработчика aww для генерации текста и диалогов. Она построена на архитектуре MistralForCausalLM, имеет 1,6 млрд параметров и поддерживает контекст до 256 000 токенов, что подходит для работы с длинными документами и продолжительными беседами. Модель принимает текст и генерирует текст; в карточке заявлена поддержка английского языка. Модель предназначена для создания статей, отчётов и художественных текстов, чат-ботов, суммаризации и перевода больших документов. Карточка также заявляет оптимизацию вычислений, включая запуск с bfloat16, но не приводит сравнительных результатов. Модель распространяется по лицензии Apache-2.0.
Это модель Sentence Transformers на базе BERT-large для кантонского языка, разработанная hon9kon9ize. Она дообучена на наборах yue-all-nli и sentence-transformers/all-nli и преобразует предложения и абзацы в плотные векторы размерностью 1024. Векторы предназначены для сравнения семантического сходства с помощью косинусной меры, семантического поиска, поиска перефразировок, классификации текстов и кластеризации. Модель использует архитектуру BERT с усреднением токенных представлений; максимальная длина входа — 512 токенов. В README приведены результаты оценки сходства на sts-dev и sts-test: Spearman 0,8072 и 0,7611 соответственно. Модель принимает текст и выдаёт векторные представления; метаданные указывают 424,8 млн параметров и формат safetensors. Условия лицензирования в предоставленных данных не описаны.
swardiantara/bert-tiny-sst5-full-fixed-cosine — компактная модель Sentence Transformers, дообученная автором на датасете generator на основе google/bert_uncased_L-2_H-128_A-2. Она преобразует предложения и абзацы на английском языке в плотные векторы размерности 128 и предназначена для поиска и сравнения текстов по косинусному сходству. Архитектура включает BERT с усреднением токенных представлений; модель содержит 4,4 млн параметров. Метаданные указывают контекст до 512 токенов, а README сообщает максимальную длину последовательности 128 токенов. Модель можно применять для семантического поиска, извлечения релевантных текстов и оценки сходства предложений. Она принимает только текст и выдаёт векторы; интерфейса для генерации ответов модель не описывает. Компактный размер подходит для сценариев с ограниченными вычислительными ресурсами. Лицензия в предоставленных данных не указана.
BrazEmbed-PT-BR — модель для получения векторных представлений текстов на бразильском португальском, созданная на базе BERTimbau и опубликованная tardellirs. Это дообученная модель семейства BERT с 136,1 млн параметров; она использует mean pooling и L2-нормализацию, работает через библиотеку sentence-transformers и принимает последовательности длиной до 512 токенов. В README указано, что опубликованный одиночный чекпойнт представляет собой TIES-слияние четырёх экспертов по отдельным задачам. Модель предназначена для вычисления эмбеддингов предложений и сравнения их семантической близости, например при поиске похожих фраз или семантическом поиске по текстам на португальском. В MTEB(por) для одиночной модели указан результат mean_16 0,6372; более высокий результат 0,6567 относится к отдельной системе с маршрутизацией по задачам, а не к этому чекпойнту. README сообщает об аудите пересечений обучающих данных с тестовыми наборами, но также отмечает, что разработка велась итеративно по MTEB(por) без отложенной выборки. Лицензия — MIT.
CatMarcoro14-7B-slerp — объединённая языковая модель на основе Mistral, созданная с помощью LazyMergekit путём слияния cookinai/CatMacaroni-Slerp и EmbeddedLLM/Mistral-7B-Merge-14-v0.2 методом slerp. Модель содержит 7,1 млрд параметров и предназначена для генерации текста, включая ответы на запросы и решение задач на рассуждение. В README приведены результаты Open LLM Leaderboard: средний балл 73,25, включая 69,37 на AI2 Reasoning Challenge и 86,92 на HellaSwag. Модель принимает и генерирует текст; контекстное окно — 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.
Chinese-Alpaca-2-13B — плотная авторегрессионная языковая модель семейства LLaMA, созданная проектом Chinese LLaMA & Alpaca на основе Llama 2 от Meta. Это полная версия с 13 млрд параметров, предназначенная для генерации текста и следования инструкциям; её можно загружать для инференса и полно-параметрического обучения. Модель расширяет словарь Llama 2 китайскими токенами и прошла дополнительное предобучение на крупных китайских данных, а Alpaca-2 ориентирована на выполнение инструкций. Она поддерживает китайский и английский языки, контекст 4096 токенов; в проекте описано расширение контекста методом NTK до 18 тысяч токенов и более. Поддерживается экосистема Transformers и инструменты развёртывания LLaMA. Модель подходит для диалогов, ответов на вопросы и генерации текста на китайском и английском. Карточка указывает лицензию Apache-2.0. Качество ответов и соблюдение инструкций могут зависеть от запроса и сценария применения; увеличение контекста сверх 4096 токенов требует отдельной настройки NTK.
Это англоязычный CSR Sparse Encoder, дообученный авторами карточки на базе mixedbread-ai/mxbai-embed-large-v1 на датасете Natural Questions с использованием Sentence Transformers. Модель кодирует предложения и абзацы в разреженные векторы размерности 4096; предусмотрено до 256 активных измерений, а сходство оценивается косинусной мерой. Максимальная длина последовательности — 512 токенов, число параметров — 433,9 млн. Модель предназначена для семантического поиска и разреженного извлечения релевантных документов, в том числе в сценариях поиска по вопросам на английском языке. В README приведены оценки на NanoBEIR, Natural Questions и других наборах Nano BEIR при разных ограничениях на активные измерения. Модель распространяется под лицензией Apache-2.0. Результаты зависят от числа активных измерений и используемого корпуса; карточка содержит оценки на небольших наборах, поэтому они не гарантируют качество на других данных.
DeepSeek-R1-0528-Qwen3-8B-GGUF — квантизированная GGUF-версия модели DeepSeek-R1-0528-Qwen3-8B, разработанной командой DeepSeek. Квантизацию выполнил bartowski на основе llama.cpp, а модель распространяется в рамках сообщества LM Studio. Модель предназначена для генерации текста и задач, требующих рассуждений, включая математические задачи и другие сценарии, где важна способность выстраивать цепочку рассуждений. Она создана посредством дистилляции chain-of-thought из DeepSeek-R1-0528 в базовую модель Qwen3 8B. Заявлена поддержка контекста до 128 тысяч токенов и передовые результаты среди открытых моделей на AIME24. Модель относится к текстовым генеративным моделям; сведения о поддерживаемых языках и конкретной архитектуре, помимо основы Qwen3 8B, в README не приведены. Квантизированный формат может быть удобен для локального запуска, однако README не уточняет уровень квантизации, требования к памяти и производительность. Как и другие языковые модели, она может генерировать неточную, вредную или неподходящую информацию. Лицензия модели указана как MIT.
bartowski/DeepSeek-R1-Distill-Qwen-32B-GGUF — набор GGUF-квантизированных версий модели DeepSeek-R1-Distill-Qwen-32B, разработанной DeepSeek и подготовленной bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp и совместимые приложения, включая LM Studio. Доступны варианты от BF16 до низкобитных Q3 и IQ3, а также Q4, Q5, Q6 и Q8. Размер файлов составляет примерно от 13,71 до 65,54 ГБ. Версии с более высокой точностью обычно обеспечивают лучшее качество, но требуют больше оперативной или видеопамяти; варианты Q4 и Q5 предлагают компромисс между качеством и потреблением ресурсов, а Q3 рассчитаны на системы с ограниченным объёмом памяти. Квантизация выполнена с использованием imatrix и llama.cpp release b4514. Это текстовая модель, однако README не содержит достоверных сведений о поддерживаемых языках, размере контекстного окна, точной архитектуре исходной модели, результатах оценки или специализированных сценариях применения. Лицензия в предоставленных данных также не указана. Для работы следует использовать рекомендованный формат prompt с системным сообщением, запросом пользователя и ответом ассистента.
Карточка модели KnutJaegersberg/Deita-Mixtral-8x7b на Hugging Face совпадает с карточкой KnutJaegersberg/Deita-34b, поэтому описание составлено по ней. KnutJaegersberg/Deita-34b — языковая модель для генерации текста, построенная на архитектуре Llama с плотной схемой и 33,9 млрд параметров. Модель рассчитана на инструкции и диалоговые запросы; в README приведён пример ответа на вопрос о тонкой настройке языковой модели. Контекстное окно составляет 4096 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. В метаданных указан датасет KnutJaegersberg/Deita-6k; они не уточняют связь модели с базовым чекпойнтом или способ её обучения.
Jebadiah/dolphin-hermes-stone-l3-8b-1m — слитая разговорная языковая модель на архитектуре Llama 3, созданная с помощью mergekit из cognitivecomputations/dolphin-2.9-llama3-8b-1m и NousResearch/Hermes-2-Pro-Llama-3-8B. Модель содержит 7,5 млрд параметров и предназначена для генерации текста в диалогах и ответов на инструкции. Заявленная длина контекста — 1 048 576 токенов. Модель доступна в формате safetensors и рассчитана на использование через Transformers. Карточка не сообщает о специализированной предметной области или поддерживаемых языках. Лицензия в предоставленных данных не указана.
DPOpenHermes 7B v2 GGUF — квантизированная версия языковой модели Open Access AI Collective, подготовленная TheBloke в формате GGUF. Модель основана на архитектуре Mistral, содержит около 7 миллиардов параметров и предназначена для генерации текста на английском языке, включая диалоговые и инструкционные сценарии. Модель обучалась с использованием наборов данных teknium/openhermes, allenai/ultrafeedback_binarized_cleaned и Intel/orca_dpo_pairs. Для общения используется шаблон ChatML с системными и пользовательскими сообщениями. GGUF-файлы доступны в вариантах с 2-, 3-, 4-, 5-, 6- и 8-битной квантизацией, что позволяет запускать модель с разными компромиссами между качеством, скоростью и требованиями к памяти на CPU и GPU. Модель совместима с llama.cpp и рядом пользовательских интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Ограничения включают поддержку только английского языка согласно карточке и отсутствие сведений о мультимодальности или размере контекстного окна. Лицензия — Apache 2.0.
Bill435/Drjajsufhfh — мультимодальная модель на базе Qwen3.6-27B-Fable-Fusion-711, опубликованная в формате GGUF. Она создана в рамках совместной работы автора репозитория с участниками Nightmedia, TeichAI, armand0e и trohrbaugh с использованием многоэтапного дообучения, нескольких слияний моделей и Unsloth. В README также указаны датасеты DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Модель распространяется по лицензии Apache-2.0. Модель предназначена для широкого круга задач: следования инструкциям, решения задач, рассуждений, программирования, творческого письма, создания историй, ролевых сценариев и других универсальных применений. Заявлена поддержка работы с текстом и изображениями, а также языков английского и китайского. Доступны обычные и MTP-варианты GGUF-квантования; используются NEO IMATRIX-кванты, а выходной тензор в них частично сохранён в 16-битной точности. Указан размер базовой модели 27B, однако размер контекстного окна в README не приведён. К сильным сторонам относятся улучшенное следование инструкциям, общее решение задач, рассуждения и, по заявлениям авторов, высокие результаты на ряде бенчмарков даже в 4- и 8-битных вариантах. Формат GGUF и ориентация на потребительское оборудование упрощают локальный запуск, но точные требования к памяти и производительности зависят от выбранного кванта. Модель помечена как uncensored и heretic, поэтому её защитные ограничения могут быть ослаблены; заявленные показатели производительности основаны на описании авторов и не подтверждены независимыми данными в представленном README.
FuseQwQen-7B — объединённая разговорная языковая модель от bunnycore на архитектуре Qwen2. Она создана методом линейного слияния нескольких моделей, включая FuseChat-Qwen-2.5-7B-Instruct, QwQ-LCoT-7B-Instruct, cybertron-v4-qw7B-UNAMGS и модель с адаптером Persona. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленный контекст — до 32 768 токенов. Модель предназначена для диалога и генерации ответов, в том числе с опорой на инструкции и рассуждения. В карточке приведены результаты Open LLM Leaderboard, однако данных недостаточно, чтобы подтвердить конкретный уровень качества в отдельных сценариях. Использование предполагает библиотеку Transformers и формат safetensors. Лицензия в предоставленных данных не указана.
MaziyarPanahi/gemma-3-12b-it-GGUF — это набор файлов модели в формате GGUF для Google Gemma 3 12B IT. Исходную модель разработала Google, а квантованные варианты подготовил MaziyarPanahi. Модель предназначена для генерации текста и использования в сценариях взаимодействия с инструкциями. Главная особенность репозитория — представление модели в формате GGUF, совместимом с llama.cpp и рядом локальных приложений и библиотек, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие. Доступны варианты с квантованием от 2 до 8 бит, что позволяет выбирать между меньшим потреблением памяти и сохранением качества, однако конкретные характеристики каждого варианта в README не приведены. К сильным сторонам относятся поддержка распространённого формата для локального запуска, возможность GPU-ускорения и широкий выбор уровней квантования. Ограничения связаны с потерями качества, возможными при агрессивном квантовании, а также с отсутствием в предоставленных данных сведений о поддерживаемых языках, размере контекста, модальностях и точных требованиях к оборудованию. Лицензия в README не указана.
unsloth/gemma-3-1b-it-GGUF — GGUF-версия инструкционно дообученной модели Gemma 3 1B, разработанной Google DeepMind и опубликованной в формате GGUF командой Unsloth. Модель предназначена для генерации текста, ответов на вопросы, суммаризации, рассуждений и понимания изображений, поэтому подходит для локального развёртывания на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре с ограниченными ресурсами. Это мультимодальная модель: она принимает текст и изображения, а генерирует текст. Для версии 1B заявлено контекстное окно до 32K токенов; максимальный объём генерируемого ответа составляет 8192 токена. Семейство Gemma 3 поддерживает более 140 языков, однако в карточке этой версии явно указан английский язык. Меньший размер упрощает локальный запуск и снижает требования к ресурсам, но по возможностям и качеству модель может уступать более крупным вариантам Gemma 3. Изображения обрабатываются после нормализации до 896×896 пикселей и кодируются в 256 токенов каждое. Модель распространяется по лицензии Gemma; применимые условия использования определяются официальными Terms of Use Google. README не содержит подробностей о конкретной квантовке GGUF, требованиях к памяти или измеренных показателях качества.
Gemma-4-31B-CoreAI — конвертация модели Google Gemma 4 31B, выполненная сообществом пользователем mlboydaisuke для запуска в формате .aimodel на Apple Core AI. Модель предназначена для локальной генерации текста, диалогов, суммаризации и других задач, поддерживаемых текстовыми языковыми моделями, полностью на устройстве без обязательной передачи данных в облако. Она ориентирована на компьютеры Mac с Apple Silicon и интеграцию через CoreAIKit или совместимые инструменты Core AI. Это плотный текстовый декодер Gemma 4 с 60 слоями, скрытым размером 5376, 32 головами внимания и словарём из 262 144 токенов. Архитектура использует чередование скользящего и глобального внимания в соотношении 5:1; размер головы составляет 256 для скользящего внимания и 512 для глобального. Модель подвергнута int4-квантизации на основе QAT-релиза Google, занимает около 19 ГБ и имеет заявленную скорость декодирования 17,2 токена в секунду на M4 Max. Поддерживаются только текстовые входы и выходы; сведения о языках и максимальном размере контекста в README не указаны. К сильным сторонам относятся запуск крупной 31-миллиардной модели на стандартном конвейерном движке Core AI, выполнение вычислений локально на GPU или Neural Engine и отсутствие необходимости в специальной модификации движка благодаря пользовательскому Metal-ядру для декодирования внимания. Ограничения включают высокие требования к памяти, размер загрузки около 20,1 ГБ, совместимость прежде всего с Mac-классом устройств и отсутствие заявленной поддержки iPhone. Модель распространяется по лицензии Apache 2.0.
GLM-4.7-Flash-FP8 — это FP8-квантизированная версия модели GLM-4.7-Flash, разработанной zai-org. Модель предназначена для задач генерации текста и инференса через библиотеку Transformers и сервер vLLM; в README также указана поддержка архитектуры glm4_moe_lite, что указывает на использование MoE-подхода. Сведения о поддерживаемых языках и модальностях отсутствуют. Квантизация выполнена методом FP8 E4M3 с масштабами, встроенными в тензоры. Размер исходной модели в формате BF16 составляет около 62 ГБ, квантизированной версии — около 30 ГБ. В формате BF16 сохранены lm_head, embed_tokens, layernorms и веса маршрутизатора. В README приведён контекст длиной 8192 токена: на двух видеокартах RTX 3090 по 24 ГБ модель потребляла около 14,7 ГБ VRAM на GPU и достигала пропускной способности 19,4 токена в секунду при использовании vLLM 0.13.0 и tensor parallelism на двух GPU. Основное преимущество модели — существенно меньший объём хранения и потребление видеопамяти по сравнению с версией BF16 при сохранении ключевых компонентов в BF16. На GPU с аппаратной поддержкой FP8, включая RTX 40xx и более новые Ada Lovelace, ожидается более высокая производительность; RTX 3090 использует Marlin kernel для распаковки весов. Для запуска требуются vLLM версии 0.13.0 или новее и Transformers 5.0 или новее. Ограничения включают зависимость от совместимого оборудования и программного стека, а также отсутствие в README подробностей о качестве, результатах бенчмарков, языковой поддержке и максимальном контексте базовой модели. Лицензия — MIT.
GLM-5.3-Flash-MLX-mixed-4_8bit — это порт модели GLM-5.3-Flash от zai-org, подготовленный PipeNetwork для MLX и Apple Silicon. Модель предназначена для генерации текста и изображений с текстовыми инструкциями, включая мультимодальные сценарии; vision tower сохранён в формате bfloat16. Архитектура исходной модели не изменена, однако слой multi-token prediction (layer 45) в этой сборке отсутствует. Модель имеет 320B параметров с архитектурой mixture-of-experts и активной конфигурацией A18B. Она объединяет 34 слоя линейного внимания Kimi-Delta и 11 слоёв разреженного внимания DeepSeek с NoPE MLA и lightning indexer, а также использует manifold-constrained hyper-connections. Маршрутизируемые эксперты занимают около 304B параметров и квантизированы в 4 бита, остальные основные компоненты — в 8 бит; параметры vision tower имеют формат bfloat16. Размер файлов составляет 181,9 ГБ. Сильная сторона сборки — существенное сокращение размера относительно 642,7 ГБ для исходной версии bfloat16 при сохранении приемлемого качества: perplexity на wikitext-2 составляет 3,5705 против 3,4607 у 8-битной версии. Для корректной работы рекомендуется исправленный runtime из проекта glm53-flash-mlx; стандартная ветка mlx-vlm содержит известные расхождения в вычислениях. README не указывает поддерживаемые языки и размер контекстного окна. Модель распространяется по лицензии MIT.
GLM-5.3-Flash-UNCENSORED-GGUF — мультимодальная модель семейства GLM, разработанная на основе архитектуры Zhipu AI / ZAI. Некензурированные веса предоставлены dealignai, а GGUF-квантизация и мультимодальный релиз выполнены Solstice-AI. Модель предназначена для генерации и понимания текста, анализа изображений и видео, а также запуска через llama.cpp и совместимые инструменты. В качестве базовой модели указана dealignai/GLM-5.3-Flash-UNCENSORED-FP8. Релиз включает мультимодальный проектор mmproj-BF16.gguf размером 1,11 ГБ с Vision Transformer и временным и пространственным объединением патчей. Поддерживаются английский и китайский языки; заявлены модальности текста, изображений и видео. Для работы указан контекст до 131 072 токенов. В комплект также входят веса DFlash 2 для speculative decoding, позволяющие ускорить генерацию при использовании совместимой конфигурации. Доступны варианты GGUF-квантизации, включая Q4_K_M и Q8_0, а также BF16-компоненты. Сильными сторонами модели являются мультимодальный анализ, поддержка видео, большой контекст, интеграция с llama.cpp и возможность ускорения вывода посредством speculative decoding. Ограничения связаны с необходимостью отдельного мультимодального проектора, совместимого рантайма и, вероятно, значительных вычислительных ресурсов; конкретные требования к памяти и производительности в README не указаны. Модель распространяется по лицензии MIT.
ibm-granite/granite-3.3-8b-instruct-FP8 — это версия модели Granite-3.3-8b-Instruct в формате FP8, разработанная IBM. Модель предназначена для генерации текста и использования в сценариях, требующих следования инструкциям; карточка указывает pipeline text-generation и совместимость с библиотекой Transformers. Модель основана на ibm-granite/granite-3.3-8b-instruct и содержит 8 миллиардов параметров, однако в представленном README не приведены сведения об архитектуре, поддерживаемых языках, модальностях и размере контекстного окна. Формат FP8 может быть полезен для более эффективного хранения и инференса, но конкретные требования к оборудованию и показатели качества не указаны. Модель распространяется по лицензии Apache-2.0. Для полного описания возможностей и ограничений рекомендуется обратиться к карточке базовой модели, поскольку текущий README содержит только краткую информацию о FP8-версии.
GRM-3.2-Turf — дообученная компактная языковая модель OrionLLM на базе LiquidAI/LFM2.5-1.2B-Thinking. Она предназначена для сложных задач рассуждения и диалога, а также для локального запуска на мобильных устройствах, встраиваемых системах и другом оборудовании с ограниченными ресурсами. Модель имеет плотную архитектуру LFM2, содержит 1,5 млрд параметров и поддерживает контекст до 128 000 токенов. Среди заявленных возможностей — следование сложным инструкциям и форматным ограничениям, решение задач с рассуждением и использование инструментов в агентных сценариях. Метаданные указывают поддержку чата; оценочные заявления о качестве и скорости приведены разработчиком, но числовые результаты бенчмарков в доступной карточке отсутствуют. Модель принимает текст и генерирует текст. Выпущена под лицензией Apache 2.0.
h2oai/h2ogpt-gm-oasst1-en-2048-falcon-40b-v2 — языковая модель H2O.ai, дообученная с помощью H2O LLM Studio на персонализированной подготовке набора OpenAssistant/oasst1. В основе лежит tiiuae/falcon-40b; метаданные указывают архитектуру RefinedWeb, плотную авторегрессионную модель RWForCausalLM и 65 млрд параметров. Модель предназначена для генерации текста на английском языке, в том числе для диалогов и ответов на вопросы. Модель можно применять для создания черновиков, диалоговых ответов и классификации или разметки текста. В репозитории указана лицензия Apache-2.0. README предупреждает, что ответы могут содержать ошибки, быть нерелевантными или воспроизводить предвзятые и оскорбительные высказывания; результаты следует проверять.
DevQuasar/huihui-ai.Huihui-Qwen3.5-27B-abliterated-GGUF — это квантованная версия модели Huihui-Qwen3.5-27B-abliterated, разработанной huihui-ai и опубликованной в формате GGUF сообществом DevQuasar. Модель относится к классу text-generation и предназначена для генерации текста и работы в сценариях локального запуска совместимых LLM-инструментов. Из доступных данных известно, что модель основана на варианте Qwen3.5 с размером 27B параметров и представляет собой abliterated-версию. Ключевые сведения об используемой архитектуре, конкретном типе квантования, поддерживаемых языках, размере контекстного окна, качестве, ограничениях и лицензии в README не указаны. Условия использования следует уточнять по лицензии исходной модели и опубликованным материалам репозитория.
oshizo/japanese-e5-mistral-7b_slerp — объединённая модель эмбеддингов, созданная oshizo слиянием intfloat/e5-mistral-7b-instruct и stabilityai/japanese-stablelm-base-gamma-7b методом SLERP. Она предназначена для получения качественных представлений предложений и сравнения их семантического сходства, в частности для работы с японским текстом. Архитектура — плотная Mistral с 7,1 млрд параметров; максимальная длина контекста по метаданным — 32 768 токенов. Репозиторий содержит веса в формате safetensors, лицензия — MIT. Модель подходит для поиска по смыслу, ранжирования и сопоставления японских предложений или текстовых фрагментов через их эмбеддинги. В README автор указывает, что при слиянии использовал больше японской базовой модели в слоях ближе к входу, чтобы сохранить понимание японского языка, и больше E5 в слоях ближе к выходу для получения эмбеддингов. Для примеров использования README направляет к карточке E5-Mistral-7B-Instruct и оценочному ноутбуку JapaneseEmbeddingEval.
Kazakh-E5-RAG-Embedding — модель эмбеддингов текста для поиска и извлечения документов на казахском языке, опубликованная shyngys879. Это плотный двунаправленный кодировщик на архитектуре XLM-RoBERTa, основанный на multilingual-e5-base и KazEmbed-V5; в метаданных указано 305,2 млн параметров, а README описывает базовый размер в 278 млн. Модель преобразует текст в 768-мерные векторы и использует формат E5 с префиксами «query:» для запросов и «passage:» для документов; контекст составляет до 514 токенов. Модель предназначена для семантического поиска, поиска ответов на вопросы и документов, а также извлечения контекста для RAG. Она оптимизирована для сопоставления казахских запросов и фрагментов, включая различение похожих нерелевантных вариантов; README сообщает об оценке на трёх казахских наборах поиска. Поддерживаются казахский и также русский и английский языки по тегам карточки. Для поиска по корпусу Wikipedia в описанных тестах multilingual-e5-base и multilingual-e5-large показали лучшие результаты. Лицензия обозначена как other, поэтому перед использованием следует проверить условия в карточке модели.