I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельOrthogonal Model of Emotions (OME) — англоязычный классификатор эмоций, созданный databoyface путём дообучения distilbert/distilroberta-base на наборе данных OME v5.2. Модель использует архитектуру RoBERTa для классификации последовательностей, содержит 95,2 млн параметров и принимает текст длиной до 514 токенов. Классификатор относит примеры к 26 категориям, охватывающим доверие или любовь, счастье или удовольствие, ревность или зависть, стыд или вину, гнев или отвращение, страх или тревогу, печаль или травму, а также нейтральные и пограничные случаи. Подходит для разметки эмоциональной окраски англоязычных фраз и анализа эмоциональных категорий в текстовых корпусах. В README указаны точность 0,9803 и функция потерь 0,1073 на оценочном наборе; эти результаты относятся к тестированию авторов и не гарантируют такую же точность на других данных. Модель распространяется по лицензии MIT.
QuantFactory/Dorna-Llama3-8B-Instruct-GGUF — квантизированная версия Dorna-Llama3-8B-Instruct, созданная QuantFactory с использованием llama.cpp на основе Meta Llama 3 Instruct 8B. Исходное семейство Dorna разработано Part AI и специально дообучено на персидских данных. Модель относится к авторегрессионным decoder-only языковым моделям и предназначена для генерации текста и диалогового взаимодействия. Модель ориентирована прежде всего на персоязычные сценарии, включая ответы на вопросы, длинные тексты, обобщение, перефразирование, работу с общими знаниями, новостными вопросами, математикой и генерацией кода. В карточке указаны английский и персидский языки. Размер базовой модели составляет около 8 млрд параметров; формат GGUF и квантизация рассчитаны на запуск через llama.cpp и совместимые инструменты. Размер контекстного окна и точный вариант квантизации не указаны. К сильным сторонам относятся специализация на персидском языке и пригодность для локального диалогового использования, а опубликованные оценки показывают конкурентные результаты в сравнении с Meta Llama 3 8B Instruct, GPT-3.5 Turbo и Persian Mind на ряде задач. Ограничения включают неизвестные параметры контекста и квантизации, а также возможное снижение точности по сравнению с полной версией из-за квантизации. Лицензия указана как llama3; дополнительные условия использования в README не приведены.
ERNIE-4.5-21B-A3B-MLX-6bit — это 6-битная квантованная версия языковой модели ERNIE-4.5-21B-A3B-PT, разработанной Baidu и адаптированной командой LM Studio с использованием MLX и mlx_lm. Модель предназначена для генерации текста и оптимизирована для запуска на устройствах Apple Silicon. Модель относится к текстовым генеративным моделям и поддерживает английский и китайский языки. В названии указаны 21B параметров и конфигурация A3B, однако README не содержит дополнительных сведений об архитектуре, размере контекста, поддерживаемых модальностях или целевых сценариях применения. Квантование до 6 бит снижает требования к памяти, но README не приводит результаты тестов производительности или качества. Основное преимущество модели — оптимизация под экосистему Apple Silicon и более компактное представление по сравнению с полноразмерной версией. Возможные ограничения связаны с потерями качества из-за квантования и отсутствием подтверждённых характеристик производительности. В качестве лицензии указана Apache-2.0; при использовании следует также учитывать ограничения и условия исходной модели ERNIE-4.5-21B-A3B-PT.
stillerman/fdt-disfluency-medium-41m — модель разметки слов для удаления речевых запинок в транскриптах живой речи. Разработана stillerman в рамках проекта FluencyAI. Она присваивает каждому слову одну из меток KEEP, DELETE, KEEP_STRIP_COMMA или KEEP_CAPITALIZE, после чего простая процедура восстанавливает очищенный текст. Модель основана на BERT (архитектура BERT L8/H512) и содержит 49,2 млн параметров; контекст составляет до 512 токенов. Репозиторий содержит веса Safetensors и ONNX, включая квантованный до int8 вариант для transformers.js и запуска в браузере через WebGPU. README сообщает о задержке около 10–50 мс на высказывание и метриках exact-match 0,9455 и DELETE-F1 0,9887. Модель предназначена для очистки разговорных транскриптов от слов-паразитов и других дисфлюенций с сохранением исходной формулировки: она не перефразирует текст и не должна менять имена и числа. Язык обучающих данных и языковая поддержка в карточке не уточнены. В обучении частично использовался DailyDialog с лицензией CC BY-NC-SA, поэтому автор рекомендует считать модель исследовательским артефактом и не применять её для коммерческого развертывания без дополнительной проверки лицензий. Лицензия репозитория — Apache-2.0.
Модель h-gajdov/full_moonshine_tiny_wup1_ep3_lr1e-4 — полное дообучение Moonshine Tiny, выполненное h-gajdov для преобразования македонской речи в текст. Это модель распознавания речи с архитектурой encoder-decoder Moonshine и 27,1 млн параметров. Она принимает аудиосигнал в виде необработанной волновой формы; вычислительные затраты зависят от фактической длительности записи, что подходит для распознавания на устройствах с ограниченными ресурсами. Модель обучена на наборе vezilka-asri в течение трёх эпох. В README указаны результаты на отложенном тестовом наборе из 44 аудиофрагментов: WER 14,24 и CER 6,42; оценка точного совпадения целых высказываний неинформативна для длинных клипов. Декодер ограничен длиной 192 токена, а вызовы generate() не должны передавать параметры language или task. Модель опубликована в формате safetensors; лицензия в предоставленных данных не указана.
Gamunu-4B-Instruct-Alpha-i1-GGUF — это квантизированная в формате GGUF версия модели Gamunu-4B-Instruct-Alpha, разработанной manthilaffs и подготовленной квантизатором mradermacher. Модель ориентирована на следование инструкциям, ответы на вопросы, рассуждения, академические и математические задачи, а также задачи обработки естественного языка. Заявлены языки Sinhala и English, однако подробные сведения о качестве работы по каждому языку не приведены. Модель имеет около 4 миллиардов параметров; точная архитектура, размер контекста и состав поддерживаемых модальностей в README не указаны. При этом она обозначена как vision model, а для работы с изображениями могут потребоваться отдельные файлы mmproj из статического репозитория. Репозиторий содержит множество вариантов квантизации с размером примерно от 1,2 до 3,3 ГБ. В README отмечается, что IQ-квантизации часто предпочтительнее сопоставимых по размеру обычных вариантов; Q4_K_M названа быстрой и рекомендуемой, а Q4_K_S — оптимальной по соотношению размера, скорости и качества. Основные преимущества модели — компактный размер, возможность локального запуска в различных вариантах квантизации и специализация исходной модели на инструкциях, вопросах, рассуждениях и математике. Ограничения связаны с потерями качества при низкой степени точности, отсутствием опубликованных сведений о бенчмарках, точной архитектуре, контекстном окне и фактических возможностях мультимодальной обработки. Указана лицензия Apache-2.0.
testmoto/gemma-2-9b-lora-aozora — текстовая генеративная модель на основе Google Gemma 2 9B, представленная в формате MLX. README сообщает о конвертации из google/gemma-2-9b с помощью mlx-lm 0.20.2; метаданные классифицируют связь с базовой моделью как дообучение, поэтому происхождение по источникам противоречиво. Модель принимает текст и генерирует текст. Базовая Gemma 2 9B предназначена для генерации текста, диалогов, суммаризации и ответов на вопросы; контекст модели составляет 8192 токена. Для работы с MLX README указывает пакет mlx-lm. Лицензия — Gemma.
gheim-ch-560m — мультиязычная модель Joel Barmettler для выявления персональных данных в тексте на четырёх официальных языках Швейцарии и английском. Это дообученная на наборе joelbarmettler/gheim-ch-pii-212k модель FacebookAI/xlm-roberta-large с архитектурой XLM-RoBERTa для классификации токенов; в метаданных указано 658,7 млн параметров и контекст длиной 514 токенов. Модель размечает фрагменты текста по 33 BIOES-классам, охватывающим восемь категорий PII и метку для остальных токенов. Она предназначена для обнаружения и маскировки персональных данных перед передачей текста внешним сервисам, например API LLM. Выходные фрагменты подходят для замены или сокрытия, а не для связывания сущностей или восстановления личности. Модель обучена с приоритетом полноты обнаружения: она может помечать как PII публичные институциональные контакты и имена должностных лиц, поэтому для сценариев, требующих высокой точности, рекомендуется дополнительная фильтрация. Модель распространяется по лицензии Apache-2.0, включая коммерческое использование. Доступны веса в форматах Safetensors и ONNX.
cstr/gigaam-v3-GGUF — это набор конвертированных и квантизированных представлений модели GigaAM-v3, разработанной ai-sage. Модель предназначена для автоматического распознавания русской речи и транскрибации аудиозаписей, в частности для использования с backend gigaam в CrispASR. Репозиторий содержит только преобразование формата и численного представления весов без обучения, дообучения или изменения архитектуры и возможностей исходной модели. GigaAM-v3 — Conformer-модель примерно на 220 млн параметров, предварительно обученная на около 700 тыс. часов русской речи с целью HuBERT-CTC. Доступны варианты с головами RNN-T и CTC, а также SentencePiece-вокабуляром или посимвольным кириллическим вокабуляром. Варианты e2e поддерживают пунктуацию, регистр и inverse text normalization; посимвольные варианты выдают строчные буквы без пунктуации. Форматы f16, q8_0 и q4_k занимают примерно 449–154 МБ. Аудио должно быть монофоническим с частотой 16 кГц, а практическое окно обработки составляет около 25 секунд. Вариант e2e-rnnt-q8_0 рекомендуется как наиболее точный и сбалансированный: он показывает средний WER 8,4%, сохраняет результаты PyTorch-эталона и обеспечивает меньший размер по сравнению с f16. CTC быстрее декодируется, а q4_k экономит память, но может немного снижать точность регистра и пунктуации. Длинные записи требуют нарезки, обычно выполняемой средствами VAD и chunking в CLI; модель использует полное внимание с квадратичной сложностью по длине последовательности. Распространение выполняется по лицензии MIT, унаследованной от исходной модели.
BoldingBuilds/GLM-5.3-Flash-Uncensored-GGUF — экспериментальная квантованная версия GLM-5.3-Flash от zai-org. Автор изменил 666 из 12 384 маршрутизируемых экспертов, удалив компоненты, связанные с отказами, а затем выпустил модель в формате GGUF с квантованием IQ1_S. Размер файла составляет 71,5 GiB в двух частях, поэтому модель рассчитана на запуск примерно на одной видеокарте с 96 ГБ памяти. Это MoE-модель; точное общее число параметров и поддерживаемые языки в карточке не указаны. Для работы с изображениями доступен отдельный vision-проектор mmproj размером 1,13 ГБ, а текстовый режим его не требует. В измерениях использовался контекст 16 384 токена, однако максимальное окно контекста не заявлено. Модель предназначена для локального запуска через llama.cpp в текстовых и мультимодальных сценариях, включая генерацию ответов и программного кода. Для GLM-5.3-Flash требуется сборка llama.cpp с поддержкой этой архитектуры; в README указано использование PR #27754. Рекомендуются параметры temperature 0, seed 0, repetition penalty 1.1 и reasoning budget 1024, причём последний параметр особенно важен: без него модель может продолжать рассуждение и не успевать выдать ответ. Встроенные настройки штрафа за повторения снижают долю непригодных ответов. Главная особенность — существенно сниженная склонность к отказам: в описанных автором тестах доля отказов на вредоносных запросах составила 3,3% по ключевому классификатору и 4,2% по оценке StrongREJECT, а на безвредных запросах — 0%. При этом результаты ограничены собственным набором из 120 вредоносных и 120 benign-запросов и не являются универсальной оценкой качества. Модель использует очень агрессивное экспериментальное квантование примерно на 1,92 бита, поэтому возможны потери качества, ограниченная совместимость и деградация на сложных задачах. README также предупреждает о случаях достижения лимита вывода, особенно при настройках по умолчанию. Лицензия — MIT; при использовании следует учитывать отсутствие стандартных ограничений на отказы и связанные с этим риски безопасности.
Hviske v3 conversation — модель распознавания датской речи, разработанная syv.ai и дообученная на базе CoRal-project/roest-whisper-large-v1. Она предназначена для транскрибации естественных разговоров: встреч, интервью, подкастов и других записей реальной речи. Модель построена на архитектуре Whisper и доступна в формате safetensors для запуска через Transformers. В README заявлено, что модель превосходит Whisper Large v3 и v3 Turbo по метрикам WER и CER, однако приведённое там исследование гендерного смещения основано на тестовом наборе всего с четырьмя дикторами и не является репрезентативным. Модель бесплатна согласно указанной в репозитории лицензии; тип лицензии в предоставленных данных не уточнён.
hviske-v5.1 — модель автоматического распознавания датской речи, разработанная syvai. Это 2-миллиардная модель архитектуры Conformer encoder-decoder, обученная примерно на 3,5 млн аудиозаписей общей длительностью около 16 тыс. часов из набора syvai/danish-asr-unified. Она преобразует аудио в текст и предназначена для транскрибации датской речи, в том числе разговоров и чтения вслух. Модель принимает аудио, автоматически разбивает записи длиннее 35 секунд на фрагменты и выполняет внутреннее преобразование частоты дискретизации в 16 кГц. Для запуска описана поддержка Transformers 4.57.6 и сервера vLLM с API, совместимым с OpenAI. Указана лицензия CC BY-NC 4.0, которая ограничивает коммерческое использование. Автор рекомендует более новую версию hviske-v5.3; версия v5.1 сохранена как основа для последующих дообучений и воспроизводимости.
Ling-flash-2.0-GGUF — это квантизированная версия языковой модели Ling-flash-2.0, разработанной inclusionAI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска в локальных приложениях, поддерживающих формат GGUF, включая LM Studio, llama.cpp и проекты на его основе. Доступно несколько вариантов квантизации от Q8_0 до Q2_K, включая форматы Q6_K, Q5_K_M и Q4_K_M. Размер файлов составляет примерно от 36 до 109 ГБ; варианты с более высокой точностью обычно обеспечивают лучшее качество, но требуют больше памяти. Для большинства сценариев автор рекомендует Q4_K_M, Q5_K_M, Q5_K_S и Q6_K, тогда как младшие варианты экономят память ценой заметного снижения качества. Некоторые файлы разделены на части. README не содержит сведений об архитектуре исходной модели, числе параметров, поддерживаемых языках, длине контекста, дополнительных модальностях или лицензии. Поэтому эти характеристики нельзя достоверно определить по предоставленным данным. Модель следует использовать с указанным шаблоном prompt и совместимым программным обеспечением; конкретные требования к аппаратным ресурсам зависят от выбранного варианта квантизации.
Tejveer12 разработал эту модель как дообученную версию openai/whisper-large-v3-turbo для распознавания английской речи с индийским акцентом. Это модель WhisperForConditionalGeneration на 905,2 млн параметров, предназначенная для преобразования аудио в текст; основное применение — транскрибация записей и речи на английском языке с индийским акцентом. Модель работает с аудио на входе и выдаёт текст. В README приведены результаты оценки: loss 0,2065 и WER 7,5056; описание методики оценки и единиц измерения WER не приведено. Модель распространяется по лицензии MIT.
Это дообученная модель Whisper, созданная на основе parthiv11/indic_whisper_hi_multi_gpu. Она предназначена для автоматического распознавания речи и транскрибирования аудио; карточка указывает дообучение на датасете с названием None. В оценке модели приведены loss 0,5062 и Global WER 26,0112. Модель использует архитектуру WhisperForConditionalGeneration и формат весов safetensors; библиотека для работы — Transformers. Лицензия — MIT. Подтверждена поддержка хинди; сведений о других языках и параметрах контекста карточка не содержит.
OpenGVLab/InternVL3.5-38B-MPO — мультимодальная модель семейства InternVL3.5, созданная OpenGVLab на базе InternVL3_5-38B-Instruct. Это вариант MPO, дообученный на наборах OpenGVLab/MMPR-v1.2 и OpenGVLab/MMPR-Tiny; он принимает текст и изображения и генерирует текстовые ответы в диалоге. Модель предназначена для вопросов по изображениям, мультимодальных рассуждений и других задач, где нужно совместно анализировать визуальный и текстовый контекст. Архитектура — плотная InternVLChatModel; для запуска 38B-версии в README указаны две видеокарты A100. Семейство поддерживает многоязычные сценарии. В README описаны улучшения InternVL3.5 для рассуждений и эффективности, включая Cascade RL и динамическую настройку разрешения визуальных токенов, однако отдельных результатов именно этой версии карточка не приводит. Репозиторий распространяется в формате safetensors по лицензии Apache-2.0.
hotchpotch разработала японскую модель поиска japanese-splade-v2 на архитектуре BERT. Это SPLADE v2 — модель, которая преобразует текст в разреженные лексические векторы, расширяя исходные слова терминами, полезными для поиска. Размер модели — 138,4 млн параметров, максимальная длина входа — 512 токенов; доступны веса в формате Safetensors. Модель предназначена для поиска и извлечения релевантных документов по японским запросам, в том числе в системах семантического поиска и retrieval-augmented generation. В README приведены результаты оценки на японских наборах JMTEB; авторы сообщают об улучшении среднего результата относительно базовой версии japanese-splade-base-v1. Обучение использовало японские наборы данных для поиска и вопросов-ответов, включая MSMARCO-ja. Модель дообучена на hotchpotch/japanese-splade-base-v1_5 и распространяется по лицензии MIT. В карточке Hugging Face указан pipeline-тег fill-mask, однако заявленное назначение модели — разреженное представление текста для поиска; тег не описывает этот сценарий напрямую. README ограничивает контекст тестирования длиной до 512 токенов.
Jev-Style-0.8B-Decision-v3 — компактная текстовая модель компании Jev-Style, созданная полным дообучением Qwen/Qwen3.5-0.8B. Она оценивает варианты решения и возвращает вероятности, поддерживая классификацию намерений, выбор среди произвольного числа вариантов и несколько вопросов к одному описанию состояния. Модель содержит 581,4 млн параметров по метаданным и принимает до 25 600 токенов на весь вход; архитектура — плотная причинная языковая модель Qwen3.5. Репозиторий содержит веса safetensors в формате bf16 и реализацию для Transformers. Модель рассчитана на многоязычные решения и классификацию, в том числе определение намерения по набору кандидатов. В README сообщается о тестировании на 51 языке и о 77 вариантах, оценённых за один проход. Указанные в карточке метаданных языки включают английский, китайский, арабский, русский и другие. По лицензии Apache-2.0 модель можно использовать на её условиях. Модель оценивает заданные варианты и выдаёт вероятности; она не генерирует текст и не выполняет действия самостоятельно. Для длинных списков вариантов runtime может делить их на части; ограничения входа и заголовка запроса могут приводить к ошибке превышения бюджета. Результаты точности и сравнения в README получены на описанных авторами тестах и не гарантируют аналогичное качество на иных данных.
kstc-1-8b — слитая языковая модель, созданная автором jaspionjader с помощью mergekit. В основе архитектура Llama с плотной структурой и классом LlamaForCausalLM; размер модели — 7,5 млрд параметров, формат весов — safetensors, длина контекста — до 131 072 токенов. Модель предназначена для генерации текста и диалогового общения. Её можно использовать для ведения беседы и создания текстовых ответов в задачах с длинным контекстом. В слияние вошли jaspionjader/Kosmos-EVAA-Franken-Immersive-v39-8B, v40-8B и v41-8B; в README указаны метод Model Stock и v41-8B как базовая модель. Лицензия и специальные ограничения применения в предоставленных данных не описаны.
kunoichi-lemon-royale-v2-32K-7B-GGUF — это квантованная версия текстовой генеративной модели kunoichi-lemon-royale-v2-32K-7B, опубликованная bartowski. Исходная модель создана на основе объединения grimjim/Mistral-7B-Instruct-demi-merge-v0.2-7B и grimjim/kunoichi-lemon-royale-7B. Распространяется в формате GGUF для запуска через llama.cpp. Модель предназначена для генерации текста в инструкционном формате, включая диалоговые и другие сценарии, где требуется следовать запросу пользователя. Заявлен контекст до 32K токенов, размер — 7B параметров. Поддерживается только текстовая модальность; сведения о языках обучения и целевой языковой специализации в README не указаны. Для запросов используется формат <s> [INST] {prompt} [/INST]</s>, системный промпт не поддерживается. Доступно множество вариантов квантования от Q8_0 до Q2_K и IQ-квантов. Варианты Q6_K, Q5_K_M, Q5_K_S и Q4_K_M рекомендуются как обеспечивающие высокий или хороший баланс качества и размера, тогда как более сильное сжатие уменьшает требования к памяти, но снижает качество. Квантование выполнено с использованием imatrix и llama.cpp. Модель распространяется по лицензии CC BY-NC 4.0, допускающей использование с ограничениями, включая некоммерческий характер лицензии.
srikanth88infy/legal-ft-v3 — дообученная модель Sentence Transformers на базе Snowflake/snowflake-arctic-embed-l, предназначенная для сравнения и поиска текстов по смыслу. Она кодирует предложения и абзацы в плотные векторы размерностью 1024; сходство между ними оценивается косинусной мерой. Архитектура включает BERT, pooling по CLS-токену и нормализацию векторов. Модель подходит для семантического поиска по юридическим материалам, ранжирования похожих документов и запросов, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. Максимальная длина входа — 512 токенов. В карточке приведены результаты оценки на Information Retrieval Evaluator, однако обучающая выборка содержит 156 пар, а данных о языках и лицензии нет.
LFM2.5-VL-3B — мультимодальная модель для работы с текстом и изображениями, разработанная Liquid AI и преобразованная сообществом в формат LiteRT-LM для локального запуска на устройствах с ограниченными ресурсами. Модель предназначена для генерации ответов по текстовым запросам и анализа одного изображения на запрос, включая распознавание текста, цветов, форм и крупных объектов. Изображения автоматически приводятся к размеру 512×512 и представляются 256 визуальными токенами. Модель сочетает гибридную текстовую архитектуру из 22 блоков gated short-convolution и 8 слоёв grouped-query attention с размером словаря 128 тысяч токенов, а также зрительную башню SigLIP2 из 27 слоёв со скрытым размером 1152 и pixel-unshuffle-проектором. Максимальный контекст составляет 4096 токенов. Доступны варианты с динамическим int8-квантованием размером около 3,55 ГБ и с int4-квантованием размером около 2,35 ГБ; также опубликован исправленный int4-вариант для корректной обработки всего изображения. Сильные стороны модели — поддержка CPU и GPU, локальный запуск, высокая скорость на совместимых устройствах и близкое к исходной bf16-модели качество на проверочных текстовых и визуальных заданиях. Основное ограничение стандартной сборки связано с LiteRT-LM 0.16.0 и текущей веткой main: из-за ошибки в обработке vision-графов модель видит только верхнюю четверть изображения, поэтому позиционные вопросы, подсчёт и перечисление объектов могут давать неверные ответы. На iOS GPU-бэкенд для этого семейства не работает, поэтому рекомендуется использовать CPU. Модель распространяется по лицензии LFM Open License v1.0.
mesolitica выпустила текстовую embedding-модель на базе Llama 2 для получения векторных представлений текста. Модель содержит 1,7 млрд параметров и распространяется в формате safetensors. Обучение проводилось на малайскоязычных текстах с контрастивной функцией потерь и последовательностями до 8 тысяч токенов; при инференсе заявлена возможность работы с контекстом до 32 768 токенов. Модель предназначена для извлечения признаков и построения эмбеддингов, например для поиска и сравнения текстов на малайском языке. В README приведён пример результата размером 12 × 1536. Лицензия в предоставленных данных не указана.
Groq Llama-3-Groq-8B-Tool-Use — языковая модель, разработанная Groq на основе Meta Llama 3 8B и дообученная полным fine-tuning и Direct Preference Optimization (DPO) для вызова инструментов и функций. Это плотный авторегрессионный трансформер с 7,5 млрд параметров; он принимает и генерирует текст, поддерживает диалог и рассчитан прежде всего на английский язык. Длина контекста — 8192 токена. Модель предназначена для сценариев, где языковая модель выбирает инструменты и формирует структурированные вызовы: взаимодействия с API, манипуляции структурированными данными и многошаговое использование инструментов. В README приведён результат 89,06% на Berkeley Function Calling Leaderboard; это заявленный разработчиком показатель. Для общих вопросов и открытой генерации автор рекомендует выбирать универсальную модель. Качество может зависеть от настроек sampling, а ответы могут быть неточными или предвзятыми. Модель распространяется по лицензии Meta Llama 3 Community License; перед использованием необходимо учитывать её условия и ограничения.
Карточка модели YeungNLP/LongQLoRA-Vicuna-13b-8k на Hugging Face совпадает с карточкой YeungNLP/LongQLoRA-Llama2-7b-8k, поэтому описание составлено по ней. YeungNLP/LongQLoRA-Llama2-7b-8k — дообученная версия LLaMA 2 7B, созданная авторами метода LongQLoRA для работы с длинным контекстом. В карточке описан метод эффективного расширения контекстного окна больших языковых моделей с меньшими затратами GPU; для этой модели заявлено увеличение длины контекста с 4096 до 8192 токенов, а метод в целом также позволяет расширение до 12 тысяч токенов. Модель предназначена для генерации текста и продолжения длинных документов. Авторы сообщают о конкурентных значениях perplexity на PG19 и Proof-pile после 1000 шагов дообучения; в сравнении с LongLoRA модель показала лучшие значения и приблизилась к MPT-7B-8K. В метаданных указаны 6,6 млрд параметров, архитектура LLaMA и библиотека Transformers; язык карточки — английский. Модель опубликована под лицензией Apache-2.0. Результаты в README относятся к оценке perplexity на конкретных корпусах и сами по себе не подтверждают качество для всех задач генерации; заявленная цель — работа с длинным контекстом.
MGM-Omni-7B — мультимодальная чат-модель, разработанная авторами проекта MGM-Omni и представленная в одноимённой статье. Это компонент восприятия проекта, основанный на дообученной Qwen2.5-VL-7B-Instruct; модель имеет плотную архитектуру MGMOmniForCausalLM и 7,1 млрд параметров. Для работы с речевым выводом README указывает отдельную модель MGM-Omni-TTS. Модель предназначена для диалогов с текстом, изображениями, видео и аудио. Среди заявленных сценариев — понимание длинной речи, включая записи длительностью до часа, мультимодальные вопросы и ответы, а также совместная обработка нескольких типов входных данных. В экосистеме MGM-Omni также заявлены генерация длинной речи, потоковый аудиовывод и клонирование голоса по короткому образцу, но для речевого синтеза требуется отдельный компонент SpeechLM. Модель рассчитана на английский и китайский языки. Контекст составляет 128 000 токенов. Репозиторий содержит веса в формате safetensors, библиотека запуска — Transformers. Лицензия Apache-2.0. Описание возможностей и сравнительных результатов в README носит заявительный характер; заявленные речевые функции зависят от дополнительной модели MGM-Omni-TTS.
Ministral-3-14B-Reasoning-2512-GGUF — это модель в формате GGUF, созданная на основе Ministral-3-14B-Reasoning-2512 от Mistral AI и конвертированная с помощью convert_hf_to_gguf.py. В метаданных указано, что модель предназначена для задач image-text-to-text, то есть может обрабатывать изображения и текст и генерировать текстовые ответы. Модель рассчитана на локальный или совместимый с GGUF запуск, в README приведён пример использования через llama-server. Сведения о точной архитектуре, размере в параметрах, поддерживаемых языках, длине контекста, вариантах квантования, производительности и ограничениях отсутствуют. Лицензия — Apache-2.0.
Mistral-Nemo-Prism-12B-GGUF — это набор квантизированных версий текстовой генеративной модели Mistral-Nemo-Prism-12B, опубликованный пользователем bartowski. Базовая модель разработана nbeerbower и дополнительно обучалась с использованием наборов данных Arkhaios-DPO и Purpura-DPO. Файлы представлены в формате GGUF для запуска через llama.cpp и совместимых приложений, включая LM Studio. Модель предназначена для генерации текста и диалоговых сценариев; в README указан шаблон промпта с ролями system, user и assistant. Доступны варианты от полного F16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Размер базовой модели составляет 12B параметров, однако сведения о поддерживаемых языках, длине контекста и мультимодальности не приведены. Сильной стороной является широкий выбор квантизаций: варианты Q6 и Q5 заявлены как близкие к исходному качеству, а Q4 — как подходящие для большинства сценариев. Некоторые варианты оптимизированы для ARM, но требуют соответствующей аппаратной поддержки и не рекомендуются для Mac или Windows. К ограничениям относятся снижение качества у компактных вариантов и отсутствие подробных данных о качестве, языках и контекстном окне. Модель распространяется по лицензии Apache-2.0.
Mizan-Rerank-v3 — арабоязычный cross-encoder-реранкер от разработчиков семейства Mizan. Модель содержит около 305 млн параметров и дообучена на базе Alibaba-NLP/gte-multilingual-reranker-base на 71 тыс. арабских listwise-группах с трудными примерами, включая фрагменты с отрицаниями, подменой сущностей, чисел и дат. Она оценивает релевантность пары «запрос — фрагмент» и сортирует кандидатов для поиска и RAG, в частности в плотных религиозных и энциклопедических текстах. Модель рассчитана прежде всего на арабский язык. Архитектура принимает до 8192 токенов, однако обучение проводилось на последовательностях до 3072 токенов, а качество на длине свыше 3072 не измерялось. По данным README, она показывает хорошие результаты на арабских тестах и эффективна по скорости; выходной логит можно преобразовать сигмоидой в оценку релевантности, но это не калиброванная вероятность. Для работы требуется trust_remote_code=True. Лицензия — Apache-2.0.
castorini/monobert-large-msmarco-finetune-only — модель на архитектуре BERT Large, преобразованная из чекпойнта, обученного на MS MARCO. Она предназначена для ранжирования пассажей: оценивает пары запроса и текста, чтобы выбрать наиболее релевантные фрагменты. Модель относится к классу BertForSequenceClassification, содержит 433,9 млн параметров и принимает текст с контекстом до 512 токенов. Чекпойнт представлен в форматах PyTorch и Flax. В карточке указана лицензия Apache-2.0. Модель ориентирована на поиск и ранжирование текстовых фрагментов; сведений о поддержке других языков, кроме английского языка датасета MS MARCO, нет.