II.8Инженерия данных и аналитика

allenai/Llama-3.1-Tulu-3-8B-DPO — англоязычная диалоговая модель AI2 из семейства Tülu 3, дообученная методом DPO на основе allenai/Llama-3.1-Tulu-3-8B-SFT. Это плотная авторегрессионная модель архитектуры Llama с 7,5 млрд параметров и контекстом до 131 072 токенов, предназначенная для следования инструкциям и общения.

Shenzhi Wang и соавторы разработали Llama3-8B-Chinese-Chat — диалоговую модель на базе Meta-Llama-3-8B-Instruct, дообученную методом ORPO для китайско- и англоязычных пользователей. Этот репозиторий содержит веса GGUF в формате F16; модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 8192 токенов. Модель предназначена для диалогов и генерации текста, включая ролевые сценарии, использование инструментов и решение математических задач. По сравнению с базовой моделью авторы отмечают меньше случаев, когда на китайский запрос следует английский ответ, и меньше смешения китайского и английского в китайских ответах. В README описана версия v2.1 с улучшениями в ролевых диалогах, вызове функций и математике. Известное ограничение: модель не дообучали на сохранение своей идентичности, поэтому ответы о том, кто она и кем создана, могут быть случайными. Для использования действуют условия лицензии Llama 3.

MarcoMancini/low-law-emb — модель iMEmbeddings на базе архитектуры BERT, разработанная Marco Mancini. Она преобразует предложения и абзацы в плотные векторы размерностью 384 для поиска по смыслу и кластеризации. Обучение с MultipleNegativesRankingLoss и косинусным сходством нацелено на получение эмбеддингов, пригодных для сравнения текстов. Модель подходит для построения семантического поиска, группировки похожих фрагментов и других задач сравнения предложений. Максимальная длина контекста составляет 512 токенов; модель работает с текстом и выдаёт векторы. В README нет сведений о лицензии, поэтому условия использования по доступным данным определить нельзя.

togethercomputer/m2-bert-80M-2k-retrieval — модель M2-BERT, обученная Jon Saad-Falcon, Dan Fu и Simran Arora. Чекпойнт дообучен для поиска по длинным текстам и рассчитан на последовательности до 2048 токенов. В метаданных указана архитектура M2-BERT с классификационной головой BertForSequenceClassification и 136,7 млн параметров; формат весов — PyTorch. Модель предназначена для оценки сходства предложений и поиска релевантных текстов с длинным контекстом. Её можно применять для поиска документов по запросу и ранжирования кандидатов по релевантности. README рекомендует загружать её через Transformers как AutoModelForSequenceClassification. Лицензия — Apache-2.0. Модель ориентирована на английский язык. Карточка не приводит результатов бенчмарков или конкретных ограничений качества; для задач и языков за пределами заявленного сценария retrieval пригодность следует проверять отдельно.

Together Computer публикует M2-BERT-80M-8k-retrieval — модель семейства M2-BERT, дообученную для поиска по длинным текстам. В README указана версия чекпойнта на 80 млн параметров, однако метаданные Hugging Face сообщают 136,7 млн параметров; поэтому размер в описании не приводится. Модель обучена Jon Saad-Falcon, Dan Fu и Simran Arora на последовательностях длиной до 8192 токенов и загружается как BertForSequenceClassification через Transformers. Модель предназначена для оценки сходства предложений и retrieval-сценариев с длинным контекстом: например, для ранжирования документов по релевантности запросу. Основной указанный язык — английский. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. Для загрузки в README показан параметр trust_remote_code=True.

Ttimms/MiniCPM5-2B-NVFP4 — это квантованная версия языковой модели openbmb/MiniCPM5-2B, подготовленная разработчиком Ttimms для генерации текста. Базовая модель основана на архитектуре LlamaForCausalLM и содержит около 2,5 млрд параметров. Модель предназначена прежде всего для англоязычных и китайскоязычных сценариев, включая генерацию и обработку кода. В модели применена 4-битная квантование весов NVFP4 по схеме W4A16 с GPTQ-округлением, блоками по 16 элементов и FP8-масштабами; активации, эмбеддинги и lm_head сохраняются в формате bfloat16. Размер на диске составляет около 2,03 ГиБ — на 57% меньше исходной версии в bfloat16. Модель рассчитана на запуск через vLLM с поддержкой compressed-tensors; в README приведён пример с максимальной длиной контекста 32 768 токенов и FP8 KV-кэшем. Главное преимущество — малый объём занимаемой памяти, что удобно для видеокарт с ограниченным объёмом памяти и сценариев с большим KV-кэшем. GPTQ сохраняет качество лучше, чем простое RTN-округление, однако по сравнению с исходной версией в bfloat16 модель теряет около 2,4 процентного пункта на HumanEval и 4,8 пункта на MBPP. На архитектуре Blackwell SM120 NVFP4-веса декодируются через Marlin в матричное умножение bfloat16, поэтому выигрыш в первую очередь связан с уменьшением занимаемой памяти, а не с ускорением вычислений. Распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

Это экспериментальная версия MiniMax M3, подготовленная Spark Arena для запуска на двух узлах DGX Spark. Модель основана на MiniMax M3 и использует квантование NVFP4 с сокращением REAP50, чтобы уменьшить требования к размещению по сравнению с вариантом на четырёх узлах. Архитектура MiniMax M3 — мультимодальная модель с разреженным вниманием MiniMax Sparse Attention (MSA); заявлено около 428 млрд параметров, из которых активируется около 23 млрд, и контекст до 1 млн токенов. Модель предназначена для диалогов с изображениями и видео, задач программирования и длительных агентных сценариев с вызовом инструментов. Разработчик заявляет ускорение обработки длинного контекста благодаря MSA, однако эта сборка помечена как экспериментальная: калибровка NVFP4 ещё дорабатывается, а влияние REAP50 на качество проверено не полностью. Для корректного использования калибровки требуется поддержка соответствующих масштабов NVFP4 в среде запуска. Лицензия указана как other; конкретные условия в предоставленных данных не раскрыты.

Mistral-Crab-DPO — языковая модель для генерации текста, разработанная Юньцзя Ци, Хао Пэном, Сяочжи Ваном, Бинь Сюем, Лэй Хоу и Цзюаньцзы Ли. Она дообучена на базе Mistral-7B-v0.3 методом DPO и предназначена для выполнения сложных инструкций с ограничениями по формату, длине и другим условиям. Обучение использует набор CRAB, созданный методом обратного преобразования ограничений: к качественным парам «инструкция — ответ» добавлялись ограничения, которым уже соответствовали ответы. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров, работает с текстом и поддерживает контекст до 32 768 токенов. Основной язык — английский. Карточка сообщает об улучшении следования сложным инструкциям и приводит оценку на соответствующих бенчмарках, но не раскрывает здесь полные результаты для этой версии модели. Лицензия — Apache-2.0.

Xenova/multilingual-e5-small — мультиязычная модель для создания векторных представлений текста, разработанная на основе intfloat/multilingual-e5-small и подготовленная сообществом Xenova в формате ONNX. Модель предназначена для использования в Transformers.js и выполнения feature extraction, в том числе непосредственно в JavaScript-приложениях. Ключевая особенность модели — наличие ONNX-весов, обеспечивающих совместимость с Transformers.js и сценариями веб-инференса. По представленным данным, модель поддерживает мультиязычную обработку текста, однако точный перечень языков, архитектура, количество параметров, размер контекста и другие технические характеристики не указаны. Модель подходит для задач, где требуются текстовые эмбеддинги, например семантический поиск или сравнение текстов, но конкретные целевые сценарии и показатели качества в карточке не описаны. Лицензия также не указана, поэтому условия использования необходимо уточнять в исходном репозитории базовой модели.

Это 6-битная версия NVIDIA Nemotron Nano 9B v2, подготовленная сообществом mlx-community для запуска в формате MLX на совместимом оборудовании Apple. Репозиторий преобразован из nvidia/NVIDIA-Nemotron-Nano-9B-v2 с помощью mlx-lm 0.27.1; метаданные связывают исходную модель с дообучением и указывают поддержку чата. Модель предназначена для генерации текста и диалогового взаимодействия. Базовая модель описана как гибридная языковая модель NVIDIA для чата, следования инструкциям, программирования и управляемого рассуждения. В карточке модели перечислены английский, испанский, французский, немецкий, итальянский и японский языки. Репозиторий указывает лицензию other; условия следует сверить с лицензией исходной модели и файлами репозитория перед использованием.

OpenProvence reranker xsmall v1 — компактная двуязычная модель переранжирования и отбора предложений для подготовки контекста в системах поиска и RAG. Модель разработана hotchpotch и содержит 30 млн параметров; архитектура — OpenProvence для классификации последовательностей, веса представлены в формате safetensors. Модель принимает вопрос и текстовый контекст, оценивает релевантность предложений и удаляет фрагменты, не относящиеся к запросу. Она предназначена для ускорения поиска нужной информации и сокращения контекста перед передачей его генеративной модели. Поддерживаются английский и японский языки; согласно карточке, xsmall рассчитана на низкую задержку и может работать на CPU. В опубликованных оценках модель сокращала объём контекста, сохраняя ответы на контрольных примерах, но результаты зависят от языка, порога отсечения и набора данных. Модель опубликована под лицензией MIT.

phi-2-dpo-7k — дообученная на диалоговых данных модель семейства Phi-2, опубликованная mlx-community на Hugging Face. Она предназначена для генерации текста в формате общения и может использоваться для ответов на запросы и ведения диалога. Модель основана на Microsoft Phi-2: плотная архитектура PhiForCausalLM, около 3,5 млрд параметров и контекст до 2048 токенов. В README указано дообучение на 7 тысячах диалоговых примеров из наборов Orca pairs, UltraFeedback ratings и Capybara-DPO. Репозиторий содержит веса Safetensors и ориентирован на использование с MLX. В метаданных указан английский язык и возможность работы с кодом. Лицензия — MIT. Карточка отсылает к описанию исходной Phi-2 за дополнительными сведениями.

vonjack/Phi-3-mini-4k-instruct-LLaMAfied — текстовая генеративная модель на 3,7 млрд параметров, опубликованная vonjack. В метаданных указана архитектура LlamaForCausalLM; карточка описывает исходную модель Phi-3 Mini-4K-Instruct и её настройку для следования инструкциям. Контекст составляет 4096 токенов, формат весов — safetensors. Модель предназначена для диалогов и генерации текста, включая задачи на логику, математику и программирование. Компактный размер подходит для сред с ограниченными ресурсами и сценариев, где важна задержка; заявленная ориентация — коммерческое и исследовательское применение на английском языке. Лицензия — MIT. README указывает, что качество на языках кроме английского ниже; ответы могут быть неточными, устаревшими, предвзятыми или оскорбительными. Сгенерированный код и API следует проверять, особенно вне Python. Для чувствительных и высокорисковых сценариев необходимы дополнительные проверки и меры защиты.

6block/Qwen3-4B-GGUF — набор GGUF-квантизированных версий модели Qwen3-4B, разработанной Qwen и подготовленной 6block с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio, Ollama и совместимые проекты. Доступны варианты квантования от Q8_0 до Q2_K размером примерно от 4,28 до 1,67 ГБ. Квантизация выполнена с imatrix на калибровочном наборе данных, содержащем английский и китайский языки, а также большое количество программного кода, что должно помогать сохранять качество китайского языка и задач программирования в низкобитных версиях. Для большинства сценариев рекомендуются Q6_K, Q5_K_M и Q4_K_M; варианты IQ ориентированы на уменьшение размера с компромиссом по скорости или качеству. Модель подходит для локальных чат-приложений, генерации текста и программирования при ограниченных ресурсах. Основные ограничения связаны с потерями качества, зависящими от выбранного уровня квантования, а также с отсутствием в README сведений об архитектурных деталях и размере контекста. Лицензия — Apache 2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — это многоэтапная fine-tune и merge-сборка модели Qwen3.8 с 27 млрд параметров, опубликованная trinityomni на основе версии DavidAU Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. В разработке использовались методы Cold Fusion и Fable Fusion, а также инструменты Unsloth. Репозиторий содержит обычные и MTP GGUF-квантизации, включая варианты с точностью 4 и 8 бит, ориентированные на запуск на потребительском оборудовании. Модель предназначена для общих задач, рассуждений, программирования, creative writing, художественной прозы, ролевых сценариев и работы с различными жанрами текста. В карточке указаны английский и китайский языки; также заявлен pipeline image-text-to-text, однако подробности о поддерживаемых визуальных входах и мультимодальной архитектуре не приведены. Размер контекста не указан. Основной акцент сделан на сокращении объёма рассуждений и ускорении генерации при сохранении детализации ответа, включая поддержку трёх режимов мышления и MTP. По утверждению авторов карточки, модель превосходит базовую Qwen3.8-27B и ряд других моделей в семи ключевых бенчмарках, а результаты ARC-C и ARC-E составляют соответственно до 735 и 880 для 8-битной версии; эти показатели являются заявленными разработчиками и не сопровождаются независимой верификацией в README. Сильными сторонами считаются скорость, сниженное избыточное рассуждение, навыки программирования и генерации творческого текста. Ограничения включают отсутствие данных о контекстном окне, системных требованиях, точных характеристиках мультимодальности и независимых тестах; из-за uncensored и abliterated-настройки модель может чаще выдавать небезопасный или нежелательный контент. Указанная лицензия — Apache-2.0.

Qwen3.8-max-Reasoning-Distilled-GGUF — компактная языковая модель, разработанная khazarai и созданная методом дистилляции знаний из Qwen3.8-max. Модель предназначена для задач рассуждения, включая анализ вариантов, решение вопросов из разных предметных областей и генерацию структурированных ответов. Формат GGUF ориентирован на использование с llama.cpp, а тег vision-language-model и pipeline image-text-to-text указывают на поддержку сценариев работы с изображениями и текстом, однако подробности о реализации визуального ввода в README не приведены. Ключевая особенность модели — оптимизированная цепочка рассуждений: она стремится выдавать линейную, последовательную и решительную логику, сокращая повторные проверки, колебания и циклы «переобдумывания». Благодаря дистилляции модель рассчитана на более эффективный инференс с меньшим числом генерируемых токенов при сохранении качества ответов. Размер архитектуры, объём параметров, максимальная длина контекста и полный набор поддерживаемых языков не указаны; явно заявлен английский язык. Модель может быть полезна там, где важны компактность, скорость и экономный расход токенов. Ограничением является то, что для чрезвычайно сложных многошаговых математических задач может потребоваться явный запрос на пошаговые промежуточные вычисления. Результаты следует проверять при использовании в медицинских, юридических и финансовых сценариях. Указанная лицензия — Apache-2.0.

JacobLinCool/Qwen3-Embedding-0.6B-GIR-1 — текстовая Sentence Transformer модель, дообученная на Qwen/Qwen3-Embedding-0.6B. Она преобразует предложения и абзацы в плотные векторы размерности 1024; близость текстов оценивается косинусным сходством. Архитектура включает Qwen3Model, pooling по последнему токену и нормализацию эмбеддингов. Максимальная длина последовательности — 32 768 токенов, формат весов — safetensors. Модель предназначена для семантического поиска и сравнения текстов. В README приведена настройка на парах запрос–код, поэтому она подходит, в частности, для поиска фрагментов кода по запросу на естественном языке. Также заявлены поиск перефразировок, кластеризация и классификация текста. Метаданные и описание базовой модели указывают на многоязычную основу Qwen3; конкретные языки обучения этой версии не перечислены. Для поиска информации в README приведены высокие метрики на небольшом наборе из 100 оценочных примеров, поэтому они не гарантируют аналогичного качества на других данных. Лицензия в предоставленных данных не указана.

Qwen-encoder-1.5B-i1-GGUF — квантованная версия текстовой encoder-модели knowledgator/Qwen-encoder-1.5B, подготовленная mradermacher в формате GGUF. Модель основана на архитектуре Qwen и имеет около 1,5 млрд параметров. В карточке указаны английский язык и обучение на данных Wikimedia Wikipedia. Модель предназначена для задач, где нужны представления текста и анализ содержимого, включая классификацию, извлечение именованных сущностей (NER) и question answering. Как encoder она ориентирована на обработку входного текста, а не на генерацию диалоговых ответов. Максимальный размер контекста, поддерживаемые дополнительные модальности и подробные результаты оценки в README не указаны. Основное преимущество — доступность в большом наборе квантованных вариантов GGUF размером примерно от 0,5 до 1,4 ГБ, что упрощает запуск на устройствах с ограниченной памятью. При этом степень квантования влияет на качество: наиболее компактные варианты отмечены как имеющие низкое качество, а для баланса скорости, размера и качества рекомендуются i1-Q4_K_S и i1-Q4_K_M. Лицензия модели — Apache-2.0.

ReasonIR-8B — модель для извлечения текстовых представлений, разработанная командой ReasonIR на основе Meta Llama 3.1 8B. Её специально дообучили для поиска документов по запросам, требующим сложных рассуждений. Архитектура использует двунаправленное кодирование; размер модели — 7,5 млрд параметров, контекст — до 131 072 токенов. Модель кодирует запросы и документы в векторы, сходство которых можно оценивать скалярным произведением. Она предназначена для поиска в системах RAG и показала высокие результаты на BRIGHT; согласно карточке, её применение в RAG также улучшает результаты на MMLU и GPQA. Указан английский язык. Для работы используются Transformers и Sentence Transformers с поддержкой пользовательского кода модели. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. При работе через Sentence Transformers возможны небольшие расхождения значений с плавающей точкой, обычно не влияющие на результаты.

Tiiny/SmallThinker-4BA0.6B-Instruct-GGUF — GGUF-квантизированная версия SmallThinker-4BA0.6B-Instruct, семейства нативных для устройств языковых моделей с архитектурой Mixture-of-Experts. Модель разработана совместно IPADS и School of AI Шанхайского университета Цзяотун при участии Zenergize AI и предназначена для локального запуска на устройствах с ограниченными ресурсами, обеспечивая приватность и низкую задержку без обращения к облачным сервисам. Модель рассчитана на генерацию текста и работу в инструкционном режиме: ответы на вопросы, рассуждения, решение математических задач, следование инструкциям и генерацию кода. Она обучалась преимущественно на английском языке, поэтому качество для других языков не заявлено. Контекстное окно составляет 32K токенов. Архитектура включает 4B общих параметров и 0,6B активируемых параметров, 32 слоя, 12 attention heads, механизм GQA, активацию ReGLU, 32 эксперта MoE и выбор 4 экспертов на токен. К сильным сторонам относятся высокая эффективность для компактной модели, возможность локального развертывания, поддержка llama.cpp для обычных GGUF-файлов и PowerInfer для файлов с суффиксом .powerinfer.gguf, использующих разреженные операторы. Ограничения включают преимущественно англоязычное обучение, возможные фактические ошибки, предвзятость и устаревание ответов, а также зависимость специальных .powerinfer.gguf-файлов от фреймворка PowerInfer. Модель распространяется по лицензии Apache-2.0.

Sonoma-1.2B-0901 — продолжение Sonoma-1.2B Preview от Mincofficial, дообученное на основе LiquidAI/LFM2.5-1.2B-Thinking. Это плотная причинная языковая модель семейства LFM2 с 1,5 млрд параметров, предназначенная для генерации текста, диалогов, следования инструкциям, кода и задач на рассуждение. Модель дообучали с помощью assistant-only LoRA ранга 32 на всех 16 блоках, после чего адаптер объединили с весами; карточка указывает контекст 128 000 токенов. Основной формат весов — Safetensors для MLX; в репозитории также есть экспорт GGUF Q4_K_M для llama.cpp. Модель подходит для локального ассистента, написания и объяснения кода, а также ответов на вопросы и математических рассуждений на английском языке. Приведённые оценки относятся к небольшому фиксированному отложенному набору и восьми задачам проверки поведения, поэтому не дают оснований считать их широким сравнительным бенчмарком. Лицензия обозначена как other; перед использованием следует проверить условия репозитория и лицензии источников обучающих данных.

dealignai выпустила Spark-X2.5-4B-CRACK-JANG_8M — дообученную текстовую модель семейства Spark 2.5 на базе XHToken/Spark-X2.5-4B, подготовленную для запуска через MLX на компьютерах Apple Silicon. Это плотная причинная языковая модель примерно на 3,8 млрд параметров; репозиторий содержит JANG8M-сборку с 8-битным аффинным представлением весов и масштабами bf16. В README заявлены контекст до 131 тыс. токенов, двуязычная работа на английском и китайском, режим рассуждения, который можно включать и выключать, и вызов инструментов через XML-интерфейс. В метаданных каталога для семейства указано окно до 1 048 576 токенов, поэтому фактический предел этой сборки требует проверки в используемом движке. Модель рассчитана на диалог, генерацию текста и кода, рассуждения и агентные сценарии с вызовом инструментов. Разработчик сообщает об удалении отказов на уровне весов и приводит результаты MMLU и HarmBench; эти результаты относятся к тестам автора и не гарантируют аналогичное качество в других условиях. Из-за отсутствия защитных отказов модель может выдавать опасные ответы. Для работы требуется совместимый стек MLX/vMLX на Apple Silicon. Лицензия — Apache-2.0; README также описывает выпуск как предназначенный для исследований безопасности ИИ и авторизованного тестирования.

jondurbin/spicyboros-13b-2.2 — экспериментальная языковая модель автора Jon Durbin, созданная на архитектуре Llama и дообученная преимущественно на синтетических данных Airoboros 2.2. Модель с 12,9 млрд параметров предназначена для генерации текста по инструкциям, включая ответы на вопросы, написание текстов, задания с вариантами ответа и генерацию кода. Для ответов по заданному контексту README рекомендует явно размечать входные данные; также описан интерфейс генерации JSON- или YAML-подобных аргументов для вызова функций. Контекст модели составляет 4096 токенов. Карточка описывает формат диалога с маркерами USER и ASSISTANT и сообщает, что использован промежуточный чекпойнт 350. Модель может выдавать ненормативный, токсичный и иной чувствительный контент; системные ограничения могут быть переопределены. Указанная лицензия — Llama 2 license.

mlx-community/tasksource-ModernBERT-base-embed-4bit — англоязычная модель эмбеддингов на архитектуре ModernBERT, подготовленная mlx-community для запуска в формате MLX на устройствах Apple. Она дообучена на базе answerdotai/ModernBERT-base для извлечения признаков и вычисления сходства между предложениями; README указывает на преобразование из tasksource/ModernBERT-base-embed и применение 4-битного формата. Модель содержит 149 млн параметров и поддерживает контекст до 8192 токенов. Её можно использовать для поиска по смыслу, ранжирования текстов по сходству и построения векторных представлений для семантического поиска и других задач NLP. Обучение опиралось на наборы данных для поиска вопросов и ответов, NLI, семантического сходства и ранжирования; заявленный язык — английский. Для запуска README рекомендует пакет mlx-embeddings. Лицензия в предоставленных данных не указана.

IronPooh/xlm-roberta-qa-cross-encoder — текстовый Cross-Encoder, созданный дообучением FacebookAI/xlm-roberta-base с помощью библиотеки Sentence Transformers. Модель оценивает пары текстов одним числовым баллом, пригодным для ранжирования результатов поиска и семантического поиска. Архитектура — XLM-RoBERTa для классификации последовательностей; размер — 305,2 млн параметров, максимальная длина входа — 512 токенов. В карточке приведены примеры обучения на парах вопросов и ответов и результаты бинарной классификации на наборе xlm-roberta-val. Это указывает на применение для оценки соответствия вопроса и ответа, а также переранжирования найденных фрагментов. Базовая XLM-RoBERTa многоязычная, а примеры в обучающих данных включают украинский и русский языки. Доступны веса в формате safetensors; лицензия в предоставленных сведениях не указана.

jondurbin/airoboros-70b-3.3 — экспериментальная чат-модель, созданная Jon Durbin на основе семейства Llama 3 и дообученная на данных Airoboros, преимущественно синтетических. Метаданные каталога указывают архитектуру LlamaForCausalLM с плотными весами, 69,5 млрд параметров и контекст до 8192 токенов. Модель принимает текст и генерирует текст; карточка показывает шаблон диалога Llama 3 Instruct и примеры ответов на вопросы, пересказа, художественных запросов и задач программирования. Модель подходит для диалогового помощника, написания и продолжения историй, суммаризации, ответов на вопросы и генерации кода. В README отмечено, что модель экспериментальная; приведённые примеры иллюстрируют предполагаемые сценарии, но не подтверждают качество или надёжность ответов. README называет базой Llama 3 70B Instruct, тогда как метаданные указывают дообучение Meta-Llama-3-8B; точную базовую модель по этим источникам установить нельзя. Лицензия в метаданных обозначена как other, поэтому условия использования следует сверить с карточкой модели на Hugging Face.

Airoboros 7B GPT4 1.4.1 QLoRA — дообученная модель семейства LLaMA, созданная jondurbin на базе синтетических данных, сгенерированных GPT-4. Это вариант QLoRA для сравнения с полной тонкой настройкой; модель содержит около 6,6 млрд параметров и рассчитана на контекст до 2048 токенов. Для диалога использует шаблон в стиле Vicuna 1.1. Модель предназначена для генерации ответов в диалоге, следования инструкциям, ответов на вопросы по предоставленному контексту, помощи с программированием, письма, ролевых диалогов, загадок и викторин. В обучающем наборе есть примеры кода на десяти языках программирования, но естественные языки модели в источниках не перечислены. Модель ориентирована на подробные и прямые ответы, однако README предупреждает, что ответы по контексту могут выдумываться, поэтому для закрытых вопросов рекомендуется явно просить не придумывать ответ при нехватке данных. Модель обучалась следовать запросам без отказов, включая незаконные или аморальные; это может приводить к небезопасным ответам. Лицензия — CC BY-NC 4.0, разрешающая использование с указанием авторства и запрещающая коммерческое использование.

Dans-PersonalityEngine-v1.0.0-8b-GGUF — это квантизированная GGUF-версия текстовой генеративной модели Dans-PersonalityEngine-v1.0.0-8b, разработанной PocketDoc и подготовленной квантизатором bartowski с использованием llama.cpp и imatrix. Модель содержит около 8 млрд параметров и предназначена для локального запуска, в частности через LM Studio. Доступны варианты от F16 до различных уровней квантизации Q3–Q8, что позволяет выбирать между качеством генерации, размером файла и требованиями к памяти. Модель ориентирована на широкий круг текстовых задач: диалоговое взаимодействие и ассистирование, написание и редактирование прозы, решение математических задач, программирование и анализ кода, подготовку данных, работу с инструментами и выполнение многошаговых заданий. В составе обучающих данных заявлены англоязычные наборы, посвящённые литературному письму, инструкциям, программированию, математике, химии, биологии, выживанию и другим темам. Основная заявленная область применения — генерация текста на английском языке; поддержка других языков и мультимодальных входов в README не указана. Сильными сторонами являются разнообразная специализация обучающих данных, наличие многочисленных вариантов квантизации и возможность локального инференса с использованием формата GGUF. К ограничениям относятся зависимость качества и скорости от выбранного уровня квантизации и оборудования, а также отсутствие в README сведений об архитектуре базовой модели, размере контекстного окна, результатах бенчмарков и фактическом качестве на отдельных задачах. Модель распространяется по лицензии Apache-2.0.

m-rudko-pn/e5-base-ukr-wikipedia — модель Sentence Transformers, дообученная автором на базе intfloat/multilingual-e5-base для преобразования предложений и абзацев в плотные векторы размерности 768. Архитектура включает XLM-RoBERTa, mean pooling и нормализацию; для сравнения векторов подходит косинусное сходство. Максимальная длина последовательности — 512 токенов, библиотека — sentence-transformers. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации. Примеры обучающих данных связывают короткие запросы с длинными фрагментами статей Википедии на украинском языке, поэтому модель особенно подходит для семантического поиска по украинской Википедии и похожим текстам. Базовая модель многоязычная, однако карточка не подтверждает отдельные показатели качества по другим языкам. Сведения о лицензии в предоставленных данных отсутствуют.

yograjm/finetuned-MiniLM-question-answering — модель на базе Sentence Transformers, дообученная разработчиком с помощью AutoTrain для работы с предложениями. Она создаёт плотные векторные представления текста, которые можно использовать для семантического поиска, сравнения запросов и предложений, а также поиска подходящих фрагментов для ответа на вопрос. Модель основана на BERT-архитектуре и содержит 25,9 млн параметров; максимальная длина входа — 512 токенов. Для применения используется библиотека Sentence Transformers, веса представлены в формате safetensors. Название указывает на сценарии вопросов и ответов, однако README описывает обучение как Sentence Transformers и не приводит примеров генерации ответов. Поэтому модель следует рассматривать как энкодер для поиска и сопоставления текста, а не как генератор ответов. Базовая модель — англоязычный sentence-энкодер sentence-transformers/all-MiniLM-L6-v2; лицензия и подтверждённый набор языков в доступных данных не указаны.