I.14Автоматизация процессов и AI-агенты
В разделе собраны самостоятельные задачи, где AI помогает выполнять многошаговые цифровые процессы и координировать действия между системами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 022 моделиЭто 7,1-миллиардная мультимодальная модель семейства Qwen2.5-VL, подготовленная сообществом mlx-community из Qwen/Qwen2.5-VL-7B-Instruct и преобразованная в формат MLX с точностью 6 бит. Она принимает текст и изображения и генерирует текст; предназначена для диалога, ответов на вопросы по изображениям и других задач визуального анализа. Архитектура — плотная Qwen2_5_VLForConditionalGeneration, поддерживается контекст до 128 000 токенов и интерфейс вызова инструментов. Карточка указывает библиотеку Transformers и преобразование с помощью mlx-vlm 0.1.11. Лицензия — Apache-2.0.
Qwen3-0.6B-Code-Expert — языковая модель на базе Qwen3-0.6B, дообученная разработчиком карточки полным fine-tuning на датасете nvidia/OpenCodeReasoning. Модель предназначена для генерации кода и рассуждений о коде; её можно использовать в диалоговых сценариях и для получения решений программных задач с промежуточными шагами рассуждения. Модель имеет плотную архитектуру Qwen3ForCausalLM и около 507,9 млн параметров. Она принимает текст и генерирует текст; заявленная длина контекста — 40 960 токенов. В карточке указан английский язык. Весы опубликованы в формате safetensors и оптимизированы при обучении в bf16. Лицензия — Apache-2.0. Специализация на одном датасете может ограничивать обобщение на другие типы кода и задачи; качество и корректность сгенерированных решений требуют проверки. Модель сохраняет ограничения компактной базовой модели, а промежуточные рассуждения не гарантируют правильность ответа.
Qwen3-0.6B-RKNN3-RK1828 — компактная языковая модель семейства Qwen3, подготовленная для запуска на устройстве Rockchip RK1828 через LlamaPi. Это плотная причинная модель с 507,9 млн параметров и контекстом до 40 960 токенов; репозиторий содержит файлы GGUF. Модель основана на Qwen/Qwen3-0.6B, разработанной командой Qwen, и поддерживает режимы с рассуждением и без него. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений и задач программирования. Она поддерживает более 100 языков и диалектов, а также интерфейс вызова инструментов. Для запуска описан LlamaPi, который загружает и выполняет модель командой llamapi run qwen3:0.6b. Модель распространяется по лицензии Apache-2.0. Небольшой размер удобен для локального запуска на целевом устройстве, но её возможности и качество ограничены масштабом модели; в карточке нет сравнительных оценок или гарантий точности.
Qwen-3.5-4B-Auto-ASVD — структурно факторизованная и дообученная языковая модель Kodjaoglanian на основе Qwen/Qwen3.5-4B. Она предназначена для генерации текста и диалогов; архитектура — плотная причинная Transformer-модель Qwen3.5 с гибридными слоями внимания и Gated DeltaNet. Веса сохранены в bfloat16, размер модели — 3,4 млрд параметров, длина контекста — до 262 144 токенов. При сокращении структуры автор применил Hessian-aware оценку чувствительности, Activation-Aware SVD и последующее восстановительное LoRA-дообучение на Wikitext-2. По README, факторизованы 64 матрицы проекций, а общее число параметров уменьшено примерно на 6,86% относительно целевых матриц; адаптеры объединены с весами, поэтому отдельный адаптер и специальные инференс-ядра не требуются. Модель использует стандартный интерфейс причинной языковой модели через Transformers. Карточка указывает английский язык. Базовая модель семейства Qwen описана как мультимодальная, но для этого репозитория подтверждены только текстовая генерация и чат, поэтому возможности понимания изображений или вызова инструментов не следует считать установленными. README предупреждает о возможном снижении качества на медицинских, юридических и специализированных задачах без дополнительной настройки. Лицензия — Apache-2.0.
OpenVINO/Qwen3.5-9B-int8-ov — квантованная версия мультимодальной модели Qwen3.5-9B, разработанной командой Qwen и преобразованной в формат OpenVINO IR. Модель предназначена для диалоговых сценариев, в которых требуется обрабатывать текст и изображения, например для описания изображений и создания визуально-языкового ассистента. Модель использует веса, сжатые до INT8 методом NNCF в режиме INT8_ASYM с group_size -1. В README не указаны точный размер контекста, поддерживаемые языки и подробные архитектурные характеристики исходной модели. Формат совместим с OpenVINO 2026.2.0 и новее, а также Optimum Intel 1.27.0 и новее; предусмотрен запуск на CPU через OpenVINO GenAI и Optimum Intel. Ключевое преимущество модели — уменьшенный объём весов и возможность инференса в экосистеме OpenVINO при сохранении мультимодального сценария исходной модели. Ограничения и другие особенности следует уточнять в карточке Qwen3.5-9B. Модель распространяется по лицензии Apache License 2.0.
Qwen3.6-35B-A3B · Winnow keep-50 — это производная модель семейства Qwen, созданная методом структурного прореживания routed-экспертов. Разработчик уменьшил промежуточную ширину каналов SwiGLU-экспертов на 50% по оценкам важности, сохранив без изменений механизм внимания, эмбеддинги и маршрутизатор. В README указано 18,5 млрд параметров, тогда как метаданные каталога сообщают 2,9 млрд; эти сведения расходятся. Архитектура — MoE для причинной генерации текста, модель поддерживает диалоговый сценарий и принимает до 262 144 токенов контекста. Модель предназначена для генерации текста и диалогов. На тесте C4 для этого чекпойнта указана perplexity 14,69 на 32 последовательностях длиной 2048 токенов; README отсылает к отдельной работе за сравнением с REAP и результатами downstream-тестов. Для запуска требуется Transformers версии 5 или новее и trust_remote_code=True; README описывает обслуживание через vLLM с плагином winnow и поддержку запуска на двух GPU по 24 ГБ. Лицензия — Apache-2.0.
Qwen3.8-9B-Distill-uncensored-heretic-Q4_K_M-GGUF — текстовая генеративная модель, преобразованная в формат GGUF из базовой модели petruhonk/Qwen3.8-9B-Distill-uncensored-heretic. В README не указано, кто разработал исходную модель; преобразование в GGUF выполнено для репозитория ge525. Модель предназначена для генерации текста и локального запуска с использованием llama.cpp, включая работу через CLI или сервер. Известно, что модель относится к семейству Qwen, имеет размер 9B и создана методом дистилляции. Заявлены сценарии рассуждений и function calling, однако подробные сведения об архитектуре, длине контекста, мультимодальности и качестве отсутствуют. Указан английский язык. Квантованный вариант Q4_K_M рассчитан на более экономичное использование памяти, но README не содержит точных требований к оборудованию и данных о производительности. Модель распространяется по лицензии Apache-2.0. Для запуска рекомендуется llama.cpp; в README приведены примеры запуска с контекстом 2048 токенов, но это значение может быть лишь параметром конкретной команды, а не максимальным контекстом модели. Ограничения, связанные с безопасностью и поведением uncensored-версии, отдельно не описаны.
cstr/qwen3-asr-0.6b-GGUF — GGUF/ggml-квантизированные версии модели Qwen3-ASR 0.6B, разработанной Alibaba и адаптированные для запуска через CLI qwen3-asr-main из проекта CrispStrobe/CrispASR. Модель предназначена для автоматического распознавания речи и транскрибации аудиозаписей с автоматическим определением языка. Она поддерживает 30 языков, включая русский, английский, немецкий, французский, китайский и другие, а также 22 китайских диалекта. Это speech-LLM с Whisper-подобным аудиоэнкодером: 2D-свёрточный subsampler, 18-слойный Transformer и projector преобразуют аудио в представления размерности 1024, после чего их обрабатывает Qwen3 0.6B — 28-слойная языковая модель с GQA, SwiGLU и RoPE. Доступны варианты F16, Q8_0, Q4_K и Q3_K с размерами примерно от 531 МБ до 1,88 ГБ. Вариант Q4_K рекомендован как компромисс между размером, скоростью и качеством и на 4-ядерном CPU работает немного быстрее реального времени на указанном тестовом аудио. Для длинных записей предпочтительнее обычные Q4_K или Q8_0; варианты с importance matrix могут на длинном аудио переходить в повторяющиеся фрагменты. Модель сильна многоязычным распознаванием, компактностью, работой на CPU и отсутствием необходимости в torch, librosa или scipy во время инференса: необходимые mel-фильтры встроены в GGUF. Заявленный средний показатель составляет 6,42% WER на Open ASR Leaderboard, однако производительность и качество зависят от варианта квантизации и характеристик аудио. Для штатного запуска требуется 16 кГц, моно, 16-битный PCM WAV; другие форматы нужно предварительно конвертировать. Модель распространяется по лицензии Apache-2.0.
harlemmvp/Qwen3-ForcedAligner-0.6B-GGUF — неофициальная конверсия модели Qwen/Qwen3-ForcedAligner-0.6B в формат GGUF для запуска через llama.cpp. В репозитории веса bf16 разделены на текстовую модель и аудиоэнкодер с проектором и головкой временных меток; это модель для принудительного выравнивания текста с речью и получения временных меток слов. Модель принимает аудио и соответствующий ему текст, а возвращает временные позиции слов. В README приведены проверки совпадения с официальной реализацией на записях совещания AMI и подкаста; максимальное различие в одном из сравнений составило один интервал в 80 мс. Для сопоставления требуется использовать те же единицы слов, что и эталонная реализация: например, удалить пунктуацию и записывать «twenty-four» как «twentyfour». Конверсия сохраняет исходные веса и точность bf16; автор репозитория не связан с командой Qwen. Базовая модель выпущена под лицензией Apache-2.0. README указывает, что для запуска используется специализированная реализация aligner в llama.cpp-omni; поддержка в других средах не описана.
Карточка модели etiennebamas/qwen3-lr-1-e-5-neat на Hugging Face совпадает с карточкой etiennebamas/qwen3-step32k-1e5, поэтому описание составлено по ней. Qwen3-step32k-1e5 — диалоговая модель генерации текста на базе Qwen3 с 7,6 млрд параметров, дообученная Etienne Bamas на датасете SFT от formalmathatepfl/qwen3-cpt. Она предназначена для текстовых запросов и диалоговых сценариев; использует плотную архитектуру Qwen3 и поддерживает контекст до 32 768 токенов. Модель распространяется в формате safetensors и рассчитана на работу через Transformers. Карточка не описывает конкретные специализации, результаты оценки или известные ограничения качества. Лицензия указана как other, поэтому условия использования следует сверять с лицензией в репозитории модели и базовой модели.
nlpconnect/roberta-base-squad2-nq — дообученная модель на базе RoBERTa для извлечения ответов на вопросы из предоставленного текста. Разработчики обучили базовую RoBERTa на SQuAD 2.0 в течение двух эпох, а затем на подмножестве Natural Questions с короткими ответами в течение одной эпохи. Модель содержит 151,8 млн параметров, использует архитектуру RobertaForQuestionAnswering и принимает вопрос вместе с контекстом длиной до 514 токенов. Модель предназначена для поиска ответа в тексте и может воздержаться от ответа, если контекст его не подтверждает. В README указаны результаты на dev-наборе SQuAD 2.0: F1 83,44 и exact match 80,30. Эти показатели относятся к указанному набору; качество на других текстах может отличаться. Доступны веса PyTorch и Flax. Лицензия — Apache 2.0.
RoPERT-base-cased — предварительно обученный англоязычный двунаправленный энкодер семейства MyBERT, разработанный авторами репозитория kd13/RoPERT-base-cased. Он использует цель masked language modeling (MLM): модель восстанавливает скрытые токены по контексту слева и справа. Архитектура включает 12 слоёв, скрытый размер 768 и 12 attention-голов; содержит около 107,2 млн параметров, использует WordPiece-токенизатор с регистрозависимым словарём google-bert/bert-base-cased и поддерживает контекст до 2048 токенов. По сравнению с исходным BERT-base, RoPERT использует rotary position embeddings (RoPE), SwiGLU и pre-layer normalization. Модель предназначена для предсказания маскированных токенов и как энкодер для дообучения на классификации текста и токенов, извлечении ответов на вопросы и задачах выбора ответа. Она не предназначена для генерации текста. Для загрузки требуется Transformers с trust_remote_code=True и PyTorch. Опубликованные веса имеют формат float32, лицензия — MIT. Модель обучалась на англоязычных данных из Wikipedia, веб-текстов и BookCorpus. Ограничения: она рассчитана только на английский язык, чувствительна к регистру и не принимает последовательности длиннее 2048 токенов без усечения или разбиения. В обучающих данных могут присутствовать общественные предубеждения и нежелательные закономерности.
RuadaptQwen2.5-32B-QWQ-Beta — русскоязычная инструктивная версия Qwen/QwQ-32B от RefalMachine. Модель семейства Qwen2 с плотной архитектурой и 32 млрд параметров дообучена продолжением предобучения на русскоязычном корпусе; авторы также заменили токенизатор и применили LEP (Learned Embedding Propagation). Репозиторий содержит веса в формате safetensors. Модель предназначена для диалогов, генерации текста и решения задач с рассуждениями. По заявлению авторов, новый токенизатор повышает скорость генерации русскоязычного текста до 60% относительно исходной Qwen/QwQ-32B при сравнении одинаковых последовательностей. Поддерживается контекст до 131 072 токенов; модель рассчитана в первую очередь на русский язык. Указана лицензия Apache-2.0. В README перечислены оценки на Ru-Arena-General, MERA и llmtf_open, однако результаты не приведены, поэтому качество по этим тестам оценить нельзя. Авторы также предупреждают, что ответы отражают данные обучения и могут содержать их предубеждения.
Это версия Whisper large-v3-turbo от OpenAI, преобразованная Viacheslav Smirnov в формат CTranslate2 с квантизацией int8. Модель предназначена для распознавания речи и перевода аудио в текст; её распространяют для загрузки утилитой Scribe SV для диктовки и перевода в Windows, в том числе на компьютерах без CUDA GPU. Ничего не дообучалось: веса напрямую преобразованы из openai/whisper-large-v3-turbo. README приводит замеры на русском аудио: WER составил 4,25% для int8 на CPU против 3,54% для float16 на CUDA. В тех же условиях обработка записи длиной 194 секунды заняла 58,2 секунды на CPU; распознавание коротких фраз длилось около 5 секунд. Модель использует CTranslate2 и распространяется по лицензии MIT с сохранением исходных лицензий.
Sentence-CamemBERT-Large — модель эмбеддингов предложений для французского языка, разработанная La Javaness. Она преобразует предложения векторы, отражающие их смысл, и предназначена для семантического поиска и сравнения текстов по смыслу. Модель основана на CamemBERT Large и дообучена с помощью Siamese BERT-Networks и Augmented SBERT на STS-B; при обучении также использовались стратегии попарной выборки. По метаданным, модель содержит 435,4 млн параметров и поддерживает контекст до 514 токенов. Доступны форматы PyTorch, safetensors, ONNX и OpenVINO. README приводит высокие результаты корреляции на французских наборах STS, включая STS-B и SICK-fr. Модель подходит для поиска семантически близких предложений и документов, сопоставления запросов с текстами и оценки семантического сходства. Она ориентирована на французский язык, поэтому её не следует считать универсальной многоязычной моделью; README оценивает её на наборах семантического сходства, что не гарантирует качество для других задач. Лицензия — Apache-2.0.
Это объединённая языковая модель, созданная с помощью mergekit и метода Linear merge. В неё вошли контрольные точки обучения на шагах 2000, 3000, 4000, 5000 и 6000; контрольная точка шага 6000 использовалась как базовая при объединении. Модель разработана автором репозитория yuhengtu-bytedance. Модель построена на архитектуре GPT-NeoX, содержит 8,8 млрд параметров и принимает текст для генерации текста. Она поддерживает контекст длиной до 16 384 токенов и имеет интерфейс для диалога, поэтому подходит для генерации ответов и ведения текстовых бесед. В репозитории указаны формат Safetensors и библиотека Transformers. Сведения о лицензии и конкретных языках в предоставленных данных отсутствуют.
zeromodels/siglip2_so400m_p16_256 — конверсия Google SigLIP 2 в формат Keras 3, подготовленная для zeromodels. Это мультимодальная модель для классификации изображений по текстовым запросам: при инференсе ей передают изображения и текстовые подсказки с вариантами классов, а она оценивает их соответствие. Реализация работает с TensorFlow, PyTorch и JAX. Модель основана на google/siglip2-so400m-patch16-256 и использует визуально-языковой подход SigLIP 2. В README отмечены предобучение с подписями, самодистилляция и masked prediction, направленные на улучшение семантического понимания и визуальных признаков. Токенизатор использует мультиязычный словарь Gemma на 256 тысяч токенов; точный перечень поддерживаемых языков не приводится. Модель подходит для классификации без обучения на конкретных метках и сопоставления изображений с текстовыми описаниями. Репозиторий распространяется по лицензии Apache 2.0. Для загрузки рекомендуется соответствующий варианту процессор, чтобы согласовать размер изображений и токенизатор.
Sinai Voice AR STT — модель распознавания арабской речи и преобразования её в текст, разработанная Bakrianoo. Это дообученная версия facebook/wav2vec2-xls-r-300m на арабской части набора Mozilla Common Voice 8.0. Архитектура Wav2Vec2ForCTC, размер — 402,7 млн параметров; модель принимает аудио и выдаёт текст на арабском языке. Модель предназначена для автоматической транскрибации арабской речи. В README приведены результаты оценки на тестовой выборке Common Voice 8.0: WER 0,181 и CER 0,049. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.
unsloth/SmolLM2-1.7B — компактная языковая модель на 1,7 млрд параметров, основанная на HuggingFaceTB/SmolLM2-1.7B. Репозиторий опубликован Unsloth и содержит вариант для генерации текста в формате safetensors; архитектура — плотная LlamaForCausalLM. Модель рассчитана на лёгкий запуск, в том числе на устройстве пользователя, и может служить основой для дообучения. Семейство SmolLM2 предназначено для широкого круга языковых задач. В README указано, что версия Instruct улучшена в следовании инструкциям, знаниях, рассуждениях и математике; для неё также заявлены переписывание и суммаризация текста, а также вызов функций. Контекст модели составляет 8192 токена. В метаданных указан английский язык. Лицензия — Apache-2.0. README описывает семейство и его вариант Instruct, однако не подтверждает, что конкретный репозиторий содержит именно Instruct-версию; перечисленные дополнительные возможности поэтому следует считать характеристиками семейства, а не гарантированными функциями этого чекпойнта.
ssc-aln-mms-model-mix-adapt-max — модель распознавания речи на базе архитектуры wav2vec2 с выходной головой CTC, разработанная автором репозитория. По README, модель обучена с нуля на неизвестном наборе данных. Она предназначена для преобразования аудио в текст; в карточке приведены результаты оценки: CER 0,2065, WER 0,5208 и loss 1,0180. Модель содержит 1,3 млрд параметров, сохранена в формате safetensors и использует библиотеку Transformers. Язык распознавания, состав обучающих данных и условия лицензии в предоставленных материалах не раскрыты. Поэтому приведённые метрики нельзя переносить на конкретные языки или сценарии без дополнительной проверки.
ctaguchi/ssc-tob-mms-model-mix-adapt-max — дообученная модель автоматического распознавания речи на основе facebook/mms-1b-all. Она принимает аудио и преобразует речь в текст; архитектура — Wav2Vec2 с CTC-выходом, размер — 1,3 млрд параметров. Базовая модель поддерживает более тысячи языков, но язык и состав данных, на которых дообучена эта версия, не указаны. В карточке приведены результаты оценки: CER 0,1791 и WER 0,6105. Эти метрики указывают на ошибки распознавания, однако без описания набора данных и протокола оценки их нельзя напрямую переносить на другие условия. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
ssc-ttj-mms-model — дообученная модель распознавания речи на базе facebook/mms-1b-all, опубликованная под лицензией CC BY-NC 4.0. Она использует архитектуру wav2vec2 с CTC-декодированием, содержит 1,3 млрд параметров и принимает аудио, чтобы преобразовывать речь в текст. Базовая модель поддерживает более тысячи языков, однако язык и состав данных для этого дообучения не указаны. В README приведены результаты оценки: CER 0,0795 и WER 0,4288 при значении loss 0,2494. Данных о наборе для обучения, сценариях применения и ограничениях автор не предоставил; качество на других данных и языках по этим метрикам определить нельзя. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.
ssc-ttj-mms-model-mix-adapt-max — модель автоматического распознавания речи на архитектуре Wav2Vec2 с CTC-выходом. В метаданных указано 1,3 млрд параметров; модель опубликована в формате Safetensors и использует библиотеку Transformers. Она принимает аудио и предназначена для преобразования речи в текст. В README приведены результаты оценки: CER 0,0697 и WER 0,3887 при loss 0,1838. Модель обучена с нуля на неизвестном наборе данных, поэтому нельзя определить поддерживаемые языки и области применения. Условия лицензии в предоставленных данных не указаны.
StrangeMerges_17-7B-dare_ties — объединённая языковая модель на архитектуре Mistral, созданная автором Gille с помощью LazyMergekit. В слиянии DARE-TIES использованы модели Gille/StrangeMerges_16-7B-slerp и Gille/StrangeMerges_12-7B-slerp; конфигурация задаёт для них плотность 0,5 и веса 0,4 и 0,6 соответственно, а результирующий тип данных — float16. Модель предназначена для генерации текста и может применяться для диалога, ответов на вопросы и решения задач на рассуждение. Число параметров — 7,1 млрд, контекст — до 32 768 токенов. В README приведены результаты Open LLM Leaderboard, в том числе средняя оценка 69,54, но эти показатели сами по себе не гарантируют качество в конкретном применении. Репозиторий распространяется по лицензии Apache-2.0. Языки, на которых модель работает лучше всего, и её поведение в специализированных областях в предоставленных материалах не описаны.
StrangeMerges_52-7B-dare_ties — слитая модель на архитектуре Mistral, созданная автором Gille с помощью LazyMergekit из пяти моделей: WizardMath-7B-V1.1, Percival_01-7b-slerp, Einstein-v4-7B, NeuralMaths-Experiment-7b и StrangeMerges_35-7B-slerp. Модель предназначена для генерации текста, в том числе ответов на вопросы и решения математических и логических задач. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В репозитории размещены веса safetensors; заявлена лицензия Apache-2.0. В README приведены результаты Open LLM Leaderboard, включая оценки по AI2 Reasoning Challenge и HellaSwag.
T3qm7xNeuralsirkrishna_Experiment28Multi_verse_model — объединённая модель на архитектуре Mistral с 7,1 млрд параметров, созданная из automerger/T3qm7xNeuralsirkrishna-7B и automerger/Experiment28Multi_verse_model-7B. Модель предназначена для генерации текста и диалогов; её можно использовать для ответов на запросы и создания связного текста с учётом контекста до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache 2.0. Доступные сведения не описывают специальные предметные области, языковую специализацию или отдельные проверенные ограничения качества.
T3qm7xNeuralsirkrishna_Strangemerges_32Experiment26 — объединённая языковая модель на архитектуре Mistral, опубликованная MaziyarPanahi. Она объединяет модели automerger/T3qm7xNeuralsirkrishna-7B и automerger/Strangemerges_32Experiment26-7B и предназначена для генерации текста и диалогов. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Модель подходит для генерации продолжений текста и ответов в диалоге. Репозиторий не приводит сведений о специализации по языкам или прикладным областям. Лицензия — Apache-2.0.
Это зеркальная копия файла Ternary Bonsai 2 27B Abliterated v2 с упаковкой PQ2_0 и MTP; автор репозитория сообщает, что веса побайтно совпадают с исходным файлом BoldingBuilds и не изменялись. Модель относится к семейству Bonsai 2, имеет 27 млрд параметров и предназначена для локальной генерации текста и диалогов. MTP используется для спекулятивного декодирования. Репозиторий также содержит результаты тестов скорости и максимального контекста на RTX 3060 с 12 ГБ видеопамяти; это результаты конкретной конфигурации, а не гарантия производительности на другом оборудовании. По README, для запуска этой упаковки нужен форк llama.cpp от PrismML: основная версия llama.cpp, Ollama и LM Studio не загружают PQ2_0. На общей RTX 3060 с тестовой конфигурацией был измерен безопасный контекст 26 624 токена и скорость около 56 токенов/с для коротких ответов. Качество именно этой версии в описанном бенчмарке не оценивалось. Модель аблитерирована: поведение отказов удалено, поэтому она может выполнять запросы, которые исходная модель отклонила бы. Метаданные указывают лицензию Apache-2.0. README описывает файл как зеркало исходного GGUF и направляет за сведениями о создании модели и оценках возможностей к карточке BoldingBuilds; здесь эти сведения не приводятся. Перед использованием в пользовательском продукте потребуется собственный уровень безопасности.
Это плотная языковая модель Qwen3 с 507,9 млн параметров, дообученная командой Utah NLP в рамках Tevatron-Elastic для поиска релевантных документов. Чекпойнт поддерживает эластичное сжатие токенов M-LTC: из одной модели можно выбирать разные коэффициенты сохранения токенов и настраивать точку работы через Tevatron-Elastic. Модель предназначена для получения представлений запросов и документов и их сопоставления в информационном поиске. В README указаны обучающие данные rlhn/rlhn-680K, максимальная длина при обучении 512 токенов и префиксы `query:` и `passage:`. Для полной конфигурации приведён результат 0,511 nDCG@10 на BEIR-15. Это ресурс для воспроизводимости экспериментов, а не заявление о превосходстве над современными моделями. Базовая модель имеет нативный контекст 32 768 токенов; лицензия — Apache-2.0.
Themis — языковая модель на архитектуре Llama, разработанная PKU-ONELab для оценки качества текстов, созданных системами генерации естественного языка. Модель дообучена на базе meta-llama/Meta-Llama-3-8B; в репозитории указано 7,5 млрд параметров, формат весов — Safetensors, контекст — до 8192 токенов. Для работы требуется текстовый ввод, результат выдаётся в текстовом формате. Модель оценивает тексты без эталонного ответа, в том числе ответы на вопросы, суммаризации, диалоги, описания данных, истории и машинный перевод. Можно задавать критерии оценки — от общей оценки качества до отдельных аспектов; модель также формирует анализ и объяснение оценки. Авторы сообщают о результатах экспериментов на нескольких наборах данных и о проверках на новых задачах, но карточка не содержит полного описания метода и результатов. Модель распространяется по лицензии Apache-2.0.