I.14Автоматизация процессов и AI-агенты
В разделе собраны самостоятельные задачи, где AI помогает выполнять многошаговые цифровые процессы и координировать действия между системами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 022 моделиXenova/bge-reranker-base — модель переранжирования текстов, представляющая ONNX-версию BAAI/bge-reranker-base. Модель подготовлена для работы с библиотекой Transformers.js и предназначена для запуска в JavaScript-средах, включая сценарии, где требуется совместимость с WebML. Основное назначение модели — оценивать и ранжировать текстовые варианты, например результаты поиска или документы относительно запроса. В README указана поддержка задачи text-ranking и совместимость с Transformers.js; модель можно использовать через pipeline с типом text-classification. Архитектура, количество параметров, поддерживаемые языки, модальности и размер контекстного окна не указаны. К сильным сторонам относятся формат ONNX, интеграция с Transformers.js и возможность применения в веб-ориентированных сценариях. Ограничения и точные характеристики качества в предоставленных данных не описаны. Лицензия модели в README не указана.
Canary-1b-v2 — мультиязычная модель NVIDIA для распознавания речи и перевода устной речи. Это модель примерно с 1 млрд параметров на архитектуре encoder-decoder: FastConformer извлекает признаки из аудио, а Transformer Decoder генерирует текст. Модель работает с 25 европейскими языками: болгарским, хорватским, чешским, датским, нидерландским, английским, эстонским, финским, французским, немецким, греческим, венгерским, итальянским, латышским, литовским, мальтийским, польским, португальским, румынским, словацким, словенским, испанским, шведским, русским и украинским. Модель предназначена для транскрибации речи на этих языках, а также перевода речи между английским и каждым из остальных 24 языков. Она автоматически расставляет знаки препинания и заглавные буквы, поддерживает временные метки на уровне слов и сегментов, в том числе для переведённого текста, и обрабатывает длинные записи с динамическим разбиением на фрагменты. NVIDIA заявляет о высокой скорости и качестве относительно моделей сопоставимого размера; результаты зависят от языка и условий записи. Модель можно использовать для голосовых помощников, субтитров, транскрибации разговоров и голосовой аналитики. Для работы предусмотрен NVIDIA NeMo; карточка также описывает использование через Transformers. Лицензия — CC BY 4.0, допускающая коммерческое и некоммерческое использование с соблюдением её условий.
Bud Code Millenials 8B — модель генерации кода от Bud Ecosystem, созданная дообучением языковой модели семейства Llama. Она предназначена для написания кода по текстовому запросу и других сценариев генерации программного кода. В карточке указано значение HumanEval pass@1 67,1; это результат оценки разработчиков, который может зависеть от используемого скрипта и условий тестирования. Модель имеет около 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors. Метаданные указывают контекст до 8192 токенов и библиотеку Transformers. Модель принимает текст и генерирует текст; карточка не указывает основной естественный язык, а среди языков отмечен код. Модель может ошибаться, выдавать вводящий в заблуждение код и хуже справляться с задачами вне программирования. Лицензия указана как llama3.
ColBERT-Zero-noprompts — модель LightOn, созданная для поиска и ранжирования документов по запросу. Это вариант семейства ColBERT на архитектуре ModernBERT с 149 млн параметров, реализованный в PyLate. Модель формирует многовекторные представления текста размерности 128 и сравнивает запросы и документы с помощью MaxSim; для запросов предусмотрена длина до 32 токенов, для документов — до 512 токенов. Метаданные также указывают контекст до 8192 токенов. Модель предназначена для семантического поиска, извлечения релевантных фрагментов и переранжирования результатов первой поисковой системы. Она обучена с дистилляцией на открытых данных; в README семейство ColBERT-Zero демонстрирует 55,43 nDCG@10 на BEIR, однако это значение не подтверждено отдельно именно для варианта noprompts. Для использования рекомендуется передавать prompt_name="query" и prompt_name="document" соответственно: пропуск или несоответствие подсказок может снизить качество. Модель ориентирована на английский язык и распространяется по лицензии Apache-2.0.
ColFlor — модель для поиска по визуальному содержимому документов, представленная авторами проекта ColFlor. Она обрабатывает страницы документов как изображения и выполняет поиск без отдельного OCR-конвейера. Модель насчитывает 174 млн параметров; авторы сообщают, что по сравнению с ColPali она в 17 раз меньше, быстрее кодирует запросы и изображения, а качество на англоязычных документах с большим количеством текста ниже на 1,8%. Репозиторий содержит веса в формате safetensors. Модель предназначена для поиска документов и страниц по текстовому запросу, в том числе в крупных базах PDF. Она рассчитана на английский язык. Авторы отмечают заметный разрыв в качестве при работе с рисунками по сравнению с более крупными моделями, такими как ColPali, и слабую работу на других языках. Лицензия — MIT.
comsat-embed-ko-8b-preview — модель эмбеддингов на основе декодерной архитектуры Qwen3, разработанная Sionic AI и дообученная для семантического поиска на корейском языке. Она кодирует запросы и документы в векторы размерностью 4096 для поиска по сходству; по данным карточки, обучение включало более миллиона корейских примеров. Для запросов требуется task-инструкция, документы кодируются без префикса. Модель предназначена для поиска документов, извлечения сведений из баз знаний и семантического поиска в корпоративных системах, в том числе по длинным текстам. В карточке заявлен контекст до 8192 токенов; метаданные указывают нативное окно до 40960 токенов. На корейском подмножестве бенчмарка MTEB модель показала средний NDCG@10 0,7930 по девяти наборам данных. Поддерживаемые языки — корейский и английский, при этом основная специализация — корейский. Модель содержит 7,6 млрд параметров и распространяется в формате safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое. Результаты поиска зависят от правильного применения инструкции к запросам; заявленные показатели относятся к указанной методике бенчмарка и не гарантируют качество на других корпусах.
DeepMagic-Coder-7b-Alt — альтернативная версия DeepMagic-Coder-7b от rombodawg, созданная слиянием DeepSeek-Coder и Magicoder-S-DS методом task arithmetic. Автор сообщает, что при кратком тестировании эта версия лучше генерировала код, и предлагает сравнить её с исходной; результаты бенчмарков в карточке не приведены. Модель предназначена для генерации кода и работает как плотная авторегрессионная Llama-архитектура с 6,6 млрд параметров. Метаданные указывают контекст до 16 384 токенов и формат safetensors. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой модели и лицензиями исходных компонентов.
Модель ele-sage/distilbert-base-uncased-name-classifier — бинарный классификатор текстовых строк, дообученный разработчиком ele-sage на базе distilbert/distilbert-base-uncased. Она определяет, обозначает ли строка имя человека или компанию/организацию, и предназначена для классификации имён, в том числе как быстрого первого этапа конвейера обработки имён перед их более сложным разбором. Модель использует архитектуру DistilBERT для классификации последовательностей, принимает текст и выдаёт метку Person или Company. Контекст ограничен 512 токенами; карточка указывает поддержку английского и французского языков. На оценочном наборе автор сообщает точность 0,9939 и F1 0,9945. Модель распространяется по лицензии MIT. Классификатор специализирован и не предназначен для других задач, например анализа тональности. По данным карточки, обучающая выборка смещена в сторону североамериканских, особенно канадских, имён и компаний Квебека; неоднозначные названия могут получать статистически вероятную, но контекстуально неверную метку. В исходных данных имён людей присутствовал шум.
Dolphin3.0-Qwen2.5-1.5B-GGUF — это GGUF-квантизированная версия текстовой генеративной модели Dolphin3.0-Qwen2.5-1.5B, опубликованная и квантизированная bartowski на основе модели cognitivecomputations. Модель основана на Qwen2.5-1.5B и предназначена для локального запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель ориентирована на генерацию текста, выполнение инструкций, программирование, математические задачи, работу с function calling и агентскими сценариями. В README указаны английский язык и размер базовой модели 1,5 млрд параметров; сведения о длине контекста, точной архитектуре и других модальностях не приведены. Доступны варианты от F32 и F16 до квантизаций Q8, Q6, Q5, Q4 и Q3 с размерами примерно от 0,78 до 6,18 ГБ. Для большинства сценариев рекомендуются варианты Q4–Q6, обеспечивающие баланс качества и требований к памяти. Сильными сторонами являются компактный размер, возможность автономного запуска на локальном оборудовании и широкий выбор уровней квантизации. Более низкие варианты экономят память, но снижают качество; некоторые форматы являются устаревшими. Для корректного взаимодействия следует использовать шаблон prompt в формате ChatML, указанный в README. Модель распространяется по лицензии Apache-2.0.
Карточка модели roskosmos19/Dolphin-4B-Instruct-flash на Hugging Face совпадает с карточкой roskosmos19/Orca-4B-Instruct, поэтому описание составлено по ней. Orca-4B-Instruct — компактная инструктивная языковая модель, опубликованная roskosmos19. По карточке она основана на архитектуре Qwen3 и предназначена для диалогов и выполнения текстовых инструкций. Модель содержит около 3,7 млрд параметров, использует архитектуру Qwen3ForCausalLM и принимает контекст до 16 384 токенов. Модель рассчитана на генерацию ответов, следование инструкциям и разговорные сценарии; в метаданных также заявлен интерфейс вызова инструментов. Карточка описывает оптимизацию для экономичного запуска: сокращённый контекст и удалённые мультимодальные специальные токены уменьшают требования к памяти, сохраняя фокус на текстовых ответах. Доступны веса в формате safetensors. Модель подходит для локальных чат-ботов, помощников и других приложений, где важны умеренный размер и стоимость инференса. Ограничение контекста до 16 384 токенов исключает обработку очень длинных запросов; сведения о поддерживаемых естественных языках в карточке не приведены. Лицензия — Apache-2.0.
DPR-XM — мультиязычная плотная двухбашенная bi-encoder-модель для поиска абзацев по запросам, разработанная Antoine Louis и соавторами. Она кодирует запросы и passages в отдельные векторы размерностью 768 и предназначена для семантического поиска и ранжирования найденных документов по близости векторных представлений. Модель построена на X-MOD и дообучена на английской части MS MARCO passage ranking с трудными негативными примерами; обучение проводилось на 25,6 млн троек «запрос, релевантный абзац, нерелевантный абзац». Благодаря языковым адаптерам X-MOD модель поддерживает перенос поиска на другие языки без отдельного обучения на каждом из них. Контекст модели — 514 токенов, максимальная длина запросов и абзацев при обучении составляла 128 токенов. Модель рассчитана на текстовый ввод и выдаёт векторные представления; доступны веса PyTorch и Safetensors для Sentence-Transformers и Transformers. DPR-XM подходит для мультиязычного поиска по коллекциям документов, в том числе для межъязыкового поиска. Оценка проводилась на mMARCO, включая русский язык. Лицензия и её условия в предоставленных данных не указаны.
dqnGPT-v1 — это универсальный мультимодальный AI-ассистент, разработанный DQN Labs как центральный интерфейс экосистемы моделей DQN. Модель предназначена для повседневного общения, объяснения учебных и общих тем, творческого письма, мозгового штурма и решения бытовых задач. В модульных системах она может выступать разговорным фронтендом и координировать взаимодействие со специализированными моделями dqnCode, dqnMath и dqnScience, рекомендуя их для задач, требующих более глубокой экспертизы. В основе модели лежит архитектура Gemma 4 E4B с Mixture-of-Experts (MoE). Это causal language model примерно с 8 млрд параметров, из которых около 4,5 млрд активны при обработке запроса. Указан основной язык English. Модель поддерживает обработку изображений, визуальных материалов, диаграмм и структурированных входных данных, однако качество мультимодальной работы зависит от возможностей используемого runtime. Предоставляется в формате GGUF и ориентирована на эффективный локальный запуск, включая потребительские GPU и конфигурации с квантованием, в том числе 4-bit. dqnGPT-v1 делает акцент на естественном разговорном стиле, понятных объяснениях, следовании инструкциям, контекстной делегации и выразительной, слегка игривой манере общения. Ограничения модели включают отсутствие оптимизации для узкоспециализированных областей, возможную передачу сложных задач специализированным моделям, зависимость мультимодальных возможностей от runtime и непредназначенность для крупномасштабных корпоративных нагрузок. Модель не дообучалась на предметно-ориентированных датасетах: поведение формируется промптами, структурированным форматом диалогов и системными настройками. Лицензия — Apache 2.0.
E5-base-trm-nl — модель эмбеддингов предложений на базе XLM-RoBERTa, дообученная clips на нидерландских данных для поиска и сопоставления текстов. Она предназначена для кодирования запросов и документов в векторы, чтобы находить релевантные фрагменты и сравнивать смысл предложений. Модель содержит 151,6 млн параметров, использует библиотеку sentence-transformers и принимает последовательности длиной до 514 токенов. Дообучение выполнено на наборах данных для нидерландского поиска, включая BEIR-NL mMARCO, HotpotQA и FEVER. Репозиторий распространяет веса в формате safetensors по лицензии MIT. В карточке приведены результаты оценки на MTEB-NL, однако извлечённые данные не содержат полных значений для этой модели, поэтому количественно оценить её качество по ним нельзя.
cross-encoder/ettin-reranker-150m-v1 — англоязычный кросс-энкодер, дообученный разработчиками модели на jhu-clsp/ettin-encoder-150m с использованием sentence-transformers и набора cross-encoder/ettin-reranker-v1-data. Модель обрабатывает пары текстов и выдаёт оценку релевантности, которую используют для повторного ранжирования результатов поиска и семантического поиска. Модель построена на архитектуре ModernBERT, содержит 149 млн параметров и поддерживает последовательности длиной до 7999 токенов. Она принимает текст и выдаёт один числовой скор для каждой пары текстов. В репозитории представлены веса safetensors, а также форматы ONNX и OpenVINO; основная библиотека — sentence-transformers. README приводит результаты оценки на задачах поиска и сравнительные замеры скорости, но не содержит полной таблицы результатов для этой версии модели. Модель подходит для повышения точности выдачи после первичного поиска, например в поисковых системах и RAG-конвейерах. Она рассчитана на английский язык, поэтому её пригодность для других языков не подтверждена. Лицензия — Apache-2.0.
Модель cross-encoder/ettin-reranker-17m-v1 разработана авторами семейства Ettin и дообучена на базе jhu-clsp/ettin-encoder-17m с помощью Sentence Transformers на наборе cross-encoder/ettin-reranker-v1-data. Это компактный текстовый реранкер: он оценивает релевантность пары «запрос — текст» и помогает переупорядочить результаты поиска или семантического поиска. Модель построена на архитектуре ModernBERT, содержит 16,8 млн параметров и поддерживает последовательности до 7999 токенов; рассчитана на английский язык. К сильным сторонам относятся небольшой размер и высокая пропускная способность в приведённых авторами тестах, а также улучшение порядка найденных документов в большинстве перечисленных наборов оценки. Качество зависит от предметной области и исходного набора кандидатов; на одном из тестов README показывает ухудшение метрики после реранжирования. Модель принимает текстовые пары и выдаёт оценку релевантности. Лицензия — Apache-2.0.
Карточка модели aTrain-core/faster-distil-whisper-large-v2 на Hugging Face совпадает с карточкой Systran/faster-distil-whisper-large-v2, поэтому описание составлено по ней. Это конверсия модели distil-whisper/distil-large-v2 в формат CTranslate2, подготовленная для использования с CTranslate2 и проектами на его основе, например faster-whisper. Модель предназначена для распознавания речи по аудиозаписям и транскрибирования речи в текст. Веса сохранены в FP16; при загрузке тип вычислений можно выбирать через параметр compute_type в CTranslate2. В карточке указана поддержка английского языка. Репозиторий использует библиотеку CTranslate2, а лицензия — MIT.
Systran/faster-whisper-small.en — конверсия модели Whisper small.en от OpenAI в формат CTranslate2, подготовленная для использования в CTranslate2 и проектах на его основе, включая faster-whisper. Модель предназначена для автоматического распознавания английской речи в аудиозаписях и преобразования её в текст. Веса сохранены в FP16. При загрузке в CTranslate2 можно выбрать другой тип вычислений через параметр compute_type. Репозиторий создан 23 ноября 2023 года; лицензия — MIT. Это конвертированная версия openai/whisper-small.en, а не самостоятельное дообучение.
OsaurusAI подготовила вариант Gemma 4 26B A4B Instruct в формате MLX JANG_4M на основе google/gemma-4-26B-A4B-it-qat-q4_0-unquantized. Это мультимодальная модель для диалога и генерации текста с поддержкой изображений; в карточке также заявлен интерфейс вызова инструментов. Веса упакованы с разной точностью: эмбеддинги, нормализации, компоненты обработки медиа и отдельные проекции сохранены в fp16, проекции внимания и маршрутизатор MoE используют 8-битное аффинное представление, а основная часть MLP и экспертов — 4-битное. Вариант предназначен для запуска через совместимый с Gemma 4 загрузчик MLX или vMLX, который обрабатывает настройки quantization, jang_config.json и файлы процессора и шаблона чата Gemma 4. Vision-конфигурация сохранена; активная поддержка аудио не заявлена. Лицензия — Gemma.
MLX-community/GLM-OCR-8bit — это 8-битная версия модели GLM-OCR, преобразованная в формат MLX из исходной модели zai-org/GLM-OCR с помощью mlx-vlm 0.3.11. Модель предназначена для задач преобразования изображений в текст, включая распознавание и анализ содержимого изображений, например документов и других визуальных материалов. Модель поддерживает работу с изображениями и текстовыми запросами через библиотеку mlx-vlm. В карточке указана поддержка китайского, английского, французского, испанского, русского, немецкого, японского и корейского языков. Сведения о точной архитектуре, количестве параметров, максимальной длине контекста и показателях качества не приведены. 8-битное представление ориентировано на запуск в экосистеме MLX, однако конкретные требования к оборудованию также не указаны. Модель распространяется по лицензии MIT. Для использования предлагается установить mlx-vlm и запускать генерацию с указанием изображения, текстового запроса, температуры и максимального числа токенов. Ограничения, связанные с точностью распознавания, поддержкой отдельных форматов изображений и безопасностью результатов, в карточке модели не описаны.
giladgd публикует GGUF-версии модели gpt-oss-120b от OpenAI для запуска через node-llama-cpp и llama.cpp. В репозитории доступны файлы MXFP4 и F16 размером около 63,4 и 65,4 ГБ соответственно; метаданные указывают формат GGUF и задачу генерации текста. Модель поддерживает диалоговый режим и настраиваемый уровень рассуждений, а исходная карточка описывает возможности вызова функций, структурированного вывода и агентных сценариев. Модель подходит для локальных диалоговых приложений, генерации текста и систем, использующих вызов инструментов. Для работы нужны значительные вычислительные ресурсы и совместимое ПО. Репозиторий распространяется по лицензии Apache 2.0; он содержит конвертированные GGUF-файлы базовой модели, а не отдельное дообучение.
granite-embedding-reranker-english-r2 — англоязычная модель ранжирования от команды Granite Embedding Team компании IBM. Это плотный cross-encoder на архитектуре ModernBERT с 149 млн параметров, 22 слоями и 12 головами внимания. Модель совместно кодирует запрос и документ и оценивает их релевантность; она предназначена для повторного ранжирования результатов поиска и информационного поиска. Контекст ограничен 8192 токенами, более длинные входы обрезаются. Модель дообучена на базе ibm-granite/granite-embedding-english-r2 с применением функций потерь для ранжирования, включая pListMLE. В README также упомянуты методы слияния моделей при обучении. Заявлены результаты на бенчмарках BEIR, MLDR и MIRACL. Несмотря на упоминание в карточке векторных представлений размером 768, основное назначение этой версии — выдавать оценки релевантности пар «запрос—документ». Модель рассчитана на английский язык. Лицензия Apache 2.0; README указывает, что данные обучения отбирались с учётом разрешительных лицензий и проходили проверку IBM. Качество ранжирования зависит от тематики и состава документов; входы длиннее контекстного окна обрезаются.
GRM-3.2-Turf — дообученная компактная языковая модель OrionLLM на базе LiquidAI/LFM2.5-1.2B-Thinking. Она предназначена для сложных задач рассуждения и диалога, а также для локального запуска на мобильных устройствах, встраиваемых системах и другом оборудовании с ограниченными ресурсами. Модель имеет плотную архитектуру LFM2, содержит 1,5 млрд параметров и поддерживает контекст до 128 000 токенов. Среди заявленных возможностей — следование сложным инструкциям и форматным ограничениям, решение задач с рассуждением и использование инструментов в агентных сценариях. Метаданные указывают поддержку чата; оценочные заявления о качестве и скорости приведены разработчиком, но числовые результаты бенчмарков в доступной карточке отсутствуют. Модель принимает текст и генерирует текст. Выпущена под лицензией Apache 2.0.
immersyn2026 выпустил чат-модель immersyn-mini-v1, дообученную на базе unsloth/qwen2.5-coder-3b-instruct-bnb-4bit. Это плотная авторегрессионная модель семейства Qwen2 с 3,1 млрд параметров, предназначенная для генерации текста в диалоге; в метаданных также заявлен интерфейс вызова инструментов. Модель обучали с использованием Unsloth и библиотеки TRL от Hugging Face. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Карточка не описывает специализированную область применения или результаты оценки качества.
IvmeLabs/Ivme-Conversate-N-v2-Instruct — компактная инструктивная языковая модель от IvmeLabs с 9 021 600 параметрами. Это плотный decoder-only Transformer с tied embeddings, multi-head attention, RoPE, SwiGLU и RMSNorm; архитектура повторяет рецепт базовой модели Ivme-Conversate-v2-Base без заявленной архитектурной новизны. Модель обучалась за одну эпоху примерно на 900 млн токенов, с упором на инструкции и диалоги с самого начала обучения. В набор данных вошли многоходовые диалоги UltraChat-200k, SODA, трассы рассуждений UltraInteract, математические задачи Orca Math, инструкции Dolly-15k и примеры SQL. Она предназначена для генерации ответов в диалоге и выполнения текстовых инструкций, включая рассуждения, математические задачи и составление SQL. Карточка указывает английский язык, библиотеку Transformers и лицензию Apache-2.0. Для загрузки в Transformers README требует trust_remote_code=True.
jina-reranker-v3-GGUF — это версия модели jina-reranker-v3 от Jina AI, преобразованная в формат GGUF для эффективного запуска с использованием llama.cpp. Модель предназначена для многоязычного переранжирования документов: она оценивает релевантность документов поисковому запросу и возвращает их в порядке соответствия. Поддерживаются пользовательские инструкции ранжирования, выбор top_n результатов и опциональный возврат эмбеддингов. Модель содержит около 0,6 млрд параметров и распространяется как GGUF-веса BF16 размером примерно 1,1 ГБ, дополнительно требуя MLP-проектор размером около 3 МБ. Для работы предусмотрены Python-реализация GGUFReranker и бинарные файлы llama.cpp; рекомендуется форк llama.cpp от Hanxiao. Модель рассчитана на мультиязычные текстовые сценарии, однако конкретный перечень языков и максимальная длина контекста в README не указаны. К сильным сторонам относятся компактный размер, возможность локального инференса через llama.cpp и применение в поиске, вопросно-ответных системах и других задачах, где требуется уточнить порядок уже найденных документов. Ограничения включают необходимость ручной настройки окружения и наличие отдельных компонентов, а также отсутствие в README подробных бенчмарков и сведений о производительности. Модель распространяется по лицензии CC BY-NC 4.0, допускающей некоммерческое использование; по вопросам коммерческого применения рекомендуется обращаться к Jina AI.
Это репозиторий mradermacher с GGUF-квантованными вариантами JiRackDeltaNet 27B, созданными на основе CMSManhattan/JiRackDeltaNet_27b. Репозиторий содержит статические квантизации TQ1_0 и TQ2_0 размером примерно 7,1 и 8,3 ГБ соответственно; автор указывает, что варианты с weighted/imatrix-квантизацией в этой публикации не представлены. Модель предназначена для генерации текста и диалогового использования. Метаданные базовой модели описывают её как многоязычную разговорную модель для локального CPU-инференса, кодирования, RAG и вызова инструментов; сама карточка этого GGUF-репозитория главным образом сообщает о доступных файлах квантования и их использовании. Заявлены языки английский, китайский, японский, корейский, французский, испанский, португальский, немецкий, итальянский, русский, арабский, вьетнамский и тайский. Лицензия — MIT. Квантованные файлы уменьшают требования к памяти, но TQ1_0 и TQ2_0 могут уступать исходным весам по качеству; README не приводит сравнительных оценок. Для работы с GGUF требуется совместимый загрузчик, а для многосоставных файлов — их корректная сборка.
CombinHorizon/Josiefied-abliteratedV4-Qwen2.5-14B-Inst-BaseMerge-TIES — объединённая модель генерации текста на архитектуре Qwen2.5, созданная с помощью mergekit и метода TIES на основе Qwen/Qwen2.5-14B и Josiefied-Qwen2.5-14B-Instruct-abliterated-v4. Модель содержит 14 млрд параметров и рассчитана на диалоговое взаимодействие и генерацию текста; метаданные также отмечают интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает английский язык и имеет контекст до 131 072 токенов. Репозиторий распространяет веса в формате safetensors; лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или подробностей об ограничениях и рекомендуемых сценариях использования.
Arch-Function-Chat-7B-GGUF — квантизированная GGUF-версия модели Arch-Function-Chat-7B, разработанной katanemo и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и чат-сценариев, включая задачи, связанные с function calling, и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. Это языковая модель размером 7B параметров с поддержкой английского языка. В репозитории представлены варианты от исходных BF16-весов до квантизаций Q8_0, Q6, Q5, Q4, Q3 и Q2, объёмом примерно от 3,55 до 15,24 ГБ. Для работы следует использовать указанный формат prompt с ролями system, user и assistant. Более качественные варианты требуют больше оперативной памяти, тогда как низкобитные версии экономичнее, но заметно уступают в качестве. Модель ориентирована на локальный запуск и предоставляет широкий выбор компромиссов между качеством, размером и скоростью инференса; в README рекомендуются варианты Q6_K_L, Q6_K, Q5 и Q4_K_M. Архитектура, размер контекстного окна, мультимодальность и дополнительные языки не указаны. Распространение осуществляется по лицензии katanemo-research; подробные условия приведены в LICENSE исходной модели.
Keefe-Discere-v2.0-OxAlpha — языковая модель KeefeBuild, дообученная на базе unsloth/qwen2.5-7b-instruct-unsloth-bnb-4bit. Это плотная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и примерно 7,1 млрд параметров; она принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для текстовой генерации и разговорных сценариев на английском языке, с контекстом до 32 768 токенов. В карточке указаны Apache-2.0 и обучение с использованием Unsloth и библиотеки TRL. Конкретные специализации и результаты оценки качества не описаны, поэтому модель следует рассматривать как универсальную дообученную языковую модель, а поведение при вызове инструментов проверять в целевой интеграции.
KLOCR — модель для извлечения текста из изображений, основанная на архитектуре VisionEncoderDecoder. Это дообучение корейской модели TrOCR team-lucid/trocr-small-korean. Модель предназначена для распознавания текста на изображениях. В метаданных указаны английский и корейский языки; карточка не содержит дополнительных сведений о размере, контексте или конкретных сценариях распознавания. Распространяется в формате safetensors по лицензии CC BY-NC-SA 4.0, которая предусматривает некоммерческое использование и распространение на тех же условиях.