II.10Разработка и эксплуатация AI/ML-систем

nreimers/TinyBERT_L-4_H-312_v2 — версия General_TinyBERT_v2, перенесённая в библиотеку Hugging Face Transformers. Это компактная модель архитектуры BERT с 4 слоями и размерностью скрытого представления 312; в метаданных указано 15,6 млн параметров и максимальная длина контекста 512 токенов. Модель предназначена для извлечения контекстных векторных представлений текста и использования в задачах, построенных на таких представлениях. Модель принимает текст и выдаёт векторные представления. В карточке указаны реализации PyTorch и Flax. Языковая специализация и условия лицензии в доступных данных не описаны.

TIPS-Qwen3-4B-Instruct-2507-Agent — модель XingYing-stack, дообученная на основе Qwen/Qwen3-4B-Instruct-2507 методом outcome-only GRPO. Это генеративная модель вознаграждения для пошаговой проверки траекторий многоходовых агентных систем и определения первого ошибочного шага. Она предназначена для оценки и верификации процесса работы агента по шаблонам запросов и скриптам оценки из репозитория TIPS, а не для обычного диалогового использования. Модель использует плотную архитектуру Qwen3 с 3,7 млрд параметров и принимает текст; базовая модель поддерживает контекст до 262 144 токенов. Чекпойнт представлен в формате safetensors и использует библиотеку Transformers. Модель выпущена под лицензией Apache-2.0. Для корректной оценки нужны соответствующие шаблоны запросов и процедура из TIPS; карточка не приводит отдельные показатели качества.

allenai/tulu-v2.5-70b-preference-mix-rm — модель оценки предпочтений из набора RLHF-моделей Tulu, разработанная AllenAI. Это плотная модель семейства Llama с 68,7 млрд параметров, дообученная на базе allenai/tulu-2-70b; README также описывает обучение на фильтрованной смеси инструкций Tulu V2 и дальнейшее обучение на наборе preference_big_mixture. Модель предназначена для классификации и оценки текстовых ответов в сценариях обучения с обратной связью по предпочтениям. Модель принимает текст на английском языке и выдаёт классификационные оценки. Максимальный контекст составляет 4096 токенов. Для корректной обработки следует использовать формат сообщений, поддерживаемый шаблоном чата токенизатора. Модель выпущена по лицензии Apache 2.0. README позиционирует её как исследовательский артефакт; результаты оценки предпочтений не следует считать универсальной мерой качества или заменой проверке человеком.

Tulu V2.5 70B RM — англоязычная модель оценки ответов, разработанная Allen Institute for AI (AI2) как часть семейства Tulu. Это плотная модель на архитектуре Llama с 68,7 млрд параметров и контекстом 4096 токенов; она дообучена на базе allenai/tulu-2-70b с использованием данных UltraFeedback и предназначена для оценки предпочтительности ответов при обучении с подкреплением, в частности PPO. Модель принимает текстовые сообщения в шаблоне чата и выдаёт оценку, пригодную для ранжирования ответов. Модель рассчитана на исследовательские и обучающие сценарии: построение конвейеров RLHF, оценку вариантов ответа и эксперименты с обучением по предпочтениям. Карточка указывает английский язык и лицензию Apache 2.0. Хотя в README сказано, что модель является исследовательским артефактом, по критериям каталога это применимая исследовательская модель, а не промежуточный экспериментальный чекпойнт.

UltraRM-13B — модель оценки вознаграждения, разработанная OpenBMB для исследований выравнивания языковых моделей. Она основана на LLaMA 2 13B и дообучена на смеси UltraFeedback, Anthropic HH-RLHF, Stanford SHP и Summarization. Модель оценивает текстовые ответы по предпочтениям и предназначена, в частности, для сравнения вариантов ответа и выбора лучшего при best-of-N генерации. Модель имеет плотную архитектуру LlamaRewardModel с 12,9 млрд параметров, принимает текст и выдаёт оценку предпочтительности. Указанная длина контекста — 4096 токенов. В README сообщается о результатах на открытых наборах тестов предпочтений и об использовании в экспериментах по выравниванию; конкретные языки не перечислены. Лицензия — MIT.

Vaayu-Large — компактная языковая модель, разработанная Meet Mendapara и обученная с нуля для вызова инструментов и взаимодействия между программами. Она предназначена для локального запуска и работы в составе агентных систем, включая выполнение инструментов через Model Context Protocol (MCP). По данным карточки, модель содержит около 492,7 млн параметров; метаданные указывают 451,7 млн. Это декодерный трансформер VaayuForCausalLM с RoPE, grouped-query attention, SwiGLU и Pre-RMSNorm. Контекст — 4096 токенов; библиотека — Vaayu, формат весов — PyTorch. Модель специализируется на генерации структурированных вызовов инструментов, JSON-RPC и аргументов по схемам, с ориентацией на локальное исполнение. Карточка приводит результаты оценок точности выбора инструментов и аргументов, а также скорости CPU; это заявленные авторами результаты. Она не предназначена для открытого творческого письма или общих викторин. При подключении нескольких подробных MCP-серверов может потребоваться сокращать схемы; среда исполнения должна безопасно ограничивать действия инструментов. Лицензия — MIT.

Vela Feedback — модель-классификатор на 307 млн параметров, разработанная vLLM-SR на базе Vela-1.0-Encoder-307M и дообученная для распознавания типов обратной связи. Она относит текст к одному из пяти классов: удовлетворённость, запрос уточнения, сообщение об ошибке, просьба изменить ответ или отсутствие обратной связи. Модель предназначена для маршрутизации пользовательских откликов и анализа качества ответов в диалоговых системах. Модель построена на архитектуре ModernBERT, принимает текстовые последовательности длиной до 32 768 токенов с учётом специальных токенов и поддерживает английский, китайский, испанский, французский и немецкий языки. В README приведено сравнение на наборе из 472 примеров: для четырёх общих классов заявлены macro F1 98,81 и точность 97,88; на 288 нейтральных примерах зарегистрировано 6 ложных сигналов при пороге уверенности 0,7. Эти результаты получены на наборе, который использовался при отборе Vela, поэтому они не гарантируют аналогичное качество на других данных. Лицензия — Apache-2.0.

google/vit-base-patch16-224-in21k — базовая модель Vision Transformer (ViT), впервые опубликованная Google; веса в этом репозитории преобразованы из timm в PyTorch. Это энкодер-трансформер примерно на 113,2 млн параметров, предварительно обученный с учителем на ImageNet-21k: около 14 млн изображений и 21 843 класса. Модель принимает изображения RGB, разбитые на патчи 16×16, при разрешении 224×224, и формирует векторные представления изображений. Модель предназначена для извлечения признаков и использования в качестве основы для классификации изображений и других задач компьютерного зрения. У неё нет готовой дообученной классификационной головы, но есть предварительно обученный pooler; для целевых задач можно добавить и обучить собственную классификационную голову или дообучить энкодер. Репозиторий содержит веса в форматах PyTorch, TensorFlow и Flax. Лицензия — Apache-2.0. Для применения требуется подготовить изображение: привести его к разрешению 224×224 и нормализовать RGB-каналы. Карточка отмечает, что при дообучении более высокое разрешение 384×384 может давать лучшие результаты. Модель обучалась на ImageNet-21k, поэтому её признаки могут хуже подходить для изображений и классов, существенно отличающихся от обучающих данных.

Модель timm/vit_base_patch16_siglip_gap_384.webli — визуальный энкодер на базе ViT с патчами 16×16 и глобальным усреднением признаков (global average pooling), обученный в рамках SigLIP на данных WebLI. Она преобразует изображения в векторные признаки для последующего извлечения признаков и использования в системах компьютерного зрения. Модель предназначена для сценариев, где нужен визуальный энкодер; README описывает только image encoder, без текстовой части SigLIP. Распространяется под лицензией Apache-2.0.

google/vit-large-patch16-224-in21k — большая модель Vision Transformer (ViT), впервые опубликованная в этом репозитории и основанная на работе Dosovitskiy и соавторов. Веса были преобразованы из timm в PyTorch; исходная модель обучалась с учителем на ImageNet-21k, содержащем около 14 млн изображений и 21 843 класса. Модель принимает изображения, разбивает их на патчи 16×16 и обрабатывает трансформерным энкодером. Она рассчитана на входное разрешение 224×224 и содержит около 402,7 млн параметров. Предобученные представления подходят для извлечения признаков и последующего дообучения под классификацию и другие задачи компьютерного зрения. В репозитории нет настроенной классификационной головы: веса голов были обнулены; доступен предобученный pooler. Для прикладных задач обычно требуется обучить линейный классификатор или дообучить модель на целевом наборе данных. Лицензия — Apache-2.0.

Это визуальный энкодер DINOv3 ViT-L/16 из библиотеки timm, созданный на основе DINOv3 ViT-7B и дистиллированный на наборе изображений LVD-1689M. Модель содержит 303,1 млн параметров и предназначена для извлечения признаков и эмбеддингов изображений; входной размер изображения в карточке — 256 × 256 пикселей. Полученные представления можно использовать как основу для классификации изображений, сегментации и других задач компьютерного зрения, включая дообучение на собственных данных. Модель работает с изображениями и возвращает векторы признаков; это не генератор изображений и не текстово-визуальная диалоговая модель. В README отмечены технические нюансы реализации в timm: смещения QKV отключены, поскольку исходные значения были нулевыми, а периоды RoPE представлены с другой точностью, что может вызывать небольшие численные расхождения с исходной реализацией. Лицензия указана как DINOv3, а в метаданных Hugging Face — как other; точные условия следует сверять с лицензией проекта DINOv3.

facebook/wav2vec2-large-es-voxpopuli — большая модель Facebook AI на архитектуре Wav2Vec2, предварительно обученная на неразмеченной испаноязычной части корпуса VoxPopuli. Модель содержит 402,7 млн параметров и предназначена для использования как основа для распознавания речи после тонкой настройки на целевой задаче. Она принимает аудио и поддерживает автоматическое распознавание речи на испанском языке. Чекпойнт доступен в форматах PyTorch и Flax; карточка рекомендует дообучить его для конкретного языка или сценария. Лицензия CC BY-NC 4.0 допускает использование с указанием авторства, но некоммерческое.

Wav2Vec2-XLSR-53 — многоязычная базовая модель для речи, разработанная Facebook (ныне Meta) на основе архитектуры wav2vec 2.0. Она предварительно обучена на аудиозаписях речи с частотой дискретизации 16 кГц и содержит 402,7 млн параметров. Модель учится извлекать общие межъязыковые представления из необработанной формы звукового сигнала; карточка указывает предобучение на 53 языках и датасет Common Voice. Модель предназначена для дообучения под задачи обработки речи, например автоматическое распознавание речи. После дообучения она может служить основой многоязычных систем распознавания, включая сценарии с ограниченным количеством размеченных данных. Сама базовая модель не является готовой системой транскрибирования: для целевой задачи требуется дообучение. Доступны форматы PyTorch и Flax. Лицензия — Apache-2.0. Для входного аудио требуется частота дискретизации 16 кГц; README не приводит подробностей о качестве по отдельным языкам или ограничениях по длительности записей.

Wav2Vec2-XLS-R-2B — мультиязычная предварительно обученная модель Facebook AI для получения речевых представлений на основе архитектуры wav2vec 2.0. Она содержит 2,8 млрд параметров по метаданным и обучена на 436 тысячах часов неразмеченной речи из нескольких корпусов, включая VoxPopuli, Multilingual LibriSpeech, Common Voice, BABEL и VoxLingua107. Модель рассчитана на аудио с частотой дискретизации 16 кГц и охватывает 128 языков. Модель служит основой для дообучения под распознавание речи, перевод речи и классификацию, включая определение языка и другие задачи анализа аудио. В статье XLS-R сообщается о результатах на задачах распознавания и перевода речи для языков с разным объёмом обучающих данных. Это предварительно обученный чекпойнт, а не готовая система транскрибации: для прикладной задачи требуется дообучение и соответствующая выходная голова. Модель распространяется по лицензии Apache-2.0.

Rabbani088888/adaptive-rag-router — дообученная модель на основе DistilBERT, предназначенная для маршрутизации запросов в конвейере Retrieval-Augmented Generation (RAG). Она относит запрос к одному из трёх типов: factual для поиска фактов, abstractive для тематического поиска и multi-hop для вопросов, требующих синтеза информации из нескольких документов. Результат классификации можно использовать для выбора разреженного поиска BM25, плотного поиска FAISS или итеративного гибридного поиска. Модель принимает текст на английском языке и выдаёт метку класса. По данным карточки, она обучена примерно на 10 000 запросов из семи наборов данных с автоматической разметкой; точность на отложенной выборке из 213 запросов составила около 87%. Архитектура — DistilBertForSequenceClassification с контекстом до 512 токенов. Лицензия в предоставленных данных не указана.

aimv2_large_patch14_224.apple_pt — веса энкодера изображений AIM-v2 в формате, совместимом с библиотекой timm. Модель принимает изображения и предназначена для извлечения признаковых представлений, которые можно использовать в задачах компьютерного зрения, например для поиска похожих изображений или как входные признаки для последующих моделей. В карточке указаны веса энкодера, архитектурное семейство AIM-v2 и совместимость с timm; репозиторий содержит веса PyTorch в формате safetensors. Разработчик исходной модели и размер входного изображения обозначены в идентификаторе модели, но карточка не раскрывает подробности обучения или оценку качества. Лицензия — apple-ascl.

ajan-embed-q — модель векторных представлений предложений, созданная Ranked Technologies Limited для проекта Ajanlar. Она предназначена прежде всего для семантического поиска и извлечения документов на турецком языке, в том числе для RAG-систем и ИИ-агентов, отвечающих по корпоративным документам. Модель принимает текст и выдаёт эмбеддинги; для поиска рекомендуется добавлять префиксы «query: » и «passage: » и нормализовать векторы. Это дообученная методом дистилляции модель на базе intfloat/multilingual-e5-base с архитектурой XLM-RoBERTa и примерно 305 млн параметров по метаданным. Студент обучен воспроизводить эмбеддинги учителя BAAI/bge-m3 на 500 тысячах турецких предложений; дополнительный Dense-слой проецирует размерность 768 в 1024. Контекст составляет 514 токенов. Модель опубликована в формате safetensors под лицензией Apache-2.0. На тесте TurHistQuad модель показала NDCG@10 0,465, выше multilingual-e5-base и multilingual-e5-small; на общих задачах сопоставления предложений уступает семейству E5. Поэтому её сильная сторона — поиск на турецком, а не универсальное измерение семантического сходства. Оценка основана на ограниченном наборе турецких задач без доверительных интервалов; перед промышленным переобучением авторы рекомендуют фиксировать снимок корпуса и фильтровать персональные данные и дубликаты.

APAR-13B — языковая модель на архитектуре Llama, разработанная авторами метода APAR. Это плотная авторегрессионная модель примерно с 12,9 млрд параметров, дообученная инструкциями на данных общего назначения с иерархической структурой, чтобы планировать генерацию и выполнять автоматическое параллельное авторегрессионное декодирование. Модель предназначена для генерации текста с более эффективным обслуживанием запросов. По данным авторов, APAR может ускорить генерацию до 2 раз, а в сочетании со speculative decoding — до 4 раз. В сценариях высокой нагрузки метод также снижает потребление KV-кэша и вычисления внимания; заявлены рост пропускной способности на 20–70% и сокращение задержки на 20–35% относительно современных систем обслуживания. Контекст модели составляет 2048 токенов. Карточка не приводит сведений о языках обучения и лицензии.

routellm/bert_gpt4_augmented — классификатор маршрутизации запросов из проекта RouteLLM, разработанного авторами системы RouteLLM. Он оценивает текстовый запрос, чтобы выбрать, направить ли его более сильной или более дешёвой языковой модели; сам ответы на запросы не генерирует. Модель основана на XLM-RoBERTa, содержит около 305,2 млн параметров и принимает текст с контекстом до 514 токенов. В RouteLLM маршрутизаторы обучаются на данных предпочтений и используют их расширение для улучшения выбора модели. Подходит для маршрутизации текстовых запросов между парой LLM с учётом компромисса между стоимостью и качеством. Карточка Hugging Face не содержит подробного описания модели или лицензии; сведения о лицензии в доступных источниках не установлены. Как классификатор, она выбирает маршрут и не заменяет целевые языковые модели.

cstr/cld3-GGUF — конверсия Compact Language Detector v3 (CLD3), компактного нейросетевого определителя языка от Google, ранее использовавшегося в Chromium. Модель принимает текст и относит его к одному из 109 языковых классов, включая отдельные метки для латинизированных вариантов некоторых языков. Архитектура включает шесть экстракторов признаков и таблиц эмбеддингов, объединённых в вектор размерности 80, а также два полносвязных слоя с размерами 80→208 и 208→109. Репозиторий содержит веса F16 в формате GGUF; файл занимает около 440 КБ. Модель предназначена для быстрой идентификации языка в браузерном и другом CPU-сценарии, где важны малый размер и низкая задержка. В README заявлены задержка менее миллисекунды и совпадение с эталонной реализацией pycld3 для 7 из 8 тестовых примеров. На коротких строках, особенно короче примерно 50 символов, предсказания могут быть ненадёжны и зависеть от языкового априорного распределения; рекомендуется учитывать уверенность. Упрощённая очистка текста в C++ runtime может также давать расхождения для HTML и текста с большим количеством пунктуации. Использование регулируется лицензией Apache-2.0; репозиторий меняет формат представления весов, но не обучает модель заново.

CloudSurf-4B-FC-GGUF — официальный набор GGUF-квантизаций модели CloudSurf-4B-FC, разработанной CloudSurf Software. Модель основана на архитектуре Gemma-4 E4B: около 4 млрд эффективных активных параметров и примерно 8 млрд общих параметров. Основное назначение — генерация текста с поддержкой function calling и tool use, включая выбор инструментов, многоаргументные и параллельные вызовы, обмен сообщениями роли tool и отказ от нерелевантных вызовов. Модель ориентирована на работу через llama.cpp, LM Studio, Ollama и OpenAI-совместимый локальный сервер. Доступны варианты с квантованием от Q3_K_M до Q8_0, а также BF16; рекомендуемый вариант Q4_K_M занимает около 5,3 ГБ и рассчитан на системы с 8 ГБ RAM или VRAM. Для каждого файла заявлена успешная проверка базового набора из шести сценариев вызова инструментов. Поддерживается ввод изображений через отдельный mmproj-файл, поскольку визуальные возможности унаследованы от базы Gemma-4, однако ключевая специализация модели — function calling. Обучение и оценка проводились в контексте класса 131K, а практический пример запуска использует 16 384 токена. Качество квантованных вариантов отдельно пока не оценено: опубликованные показатели BFCL относятся к исходным BF16-весам и не должны напрямую переноситься на GGUF-файлы. Для вариантов ниже Q8_0 следует ожидать некоторое снижение качества, усиливающееся при уменьшении разрядности. Лицензия — Apache-2.0, при этом базовые веса Gemma-4 также регулируются условиями Google Gemma.

CustomerLM — дообученная модель MultiSense на базе Qwen3-8B-Instruct для имитации поведения покупателя в многоходовом диалоге с продавцом. Модель служит симулятором пользователя в бенчмарке SalesLLM и предназначена для оценки и стресс-тестирования разговорных систем продаж, а также генерации синтетических диалогов для обучения и анализа. Это плотная причинная языковая модель на 7,6 млрд параметров с контекстом до 40 960 токенов; обучение включало SFT и DPO на 8 284 реальных диалогах с участием краудворкеров. Она формулирует ответы от лица заданной персоны, может проявлять скептицизм, задавать вопросы и отказаться от покупки. Заявленная частота инверсии ролей снизилась до 8,8%, но сбой всё ещё возможен. Для лучшего соответствия персоне следует передавать системную инструкцию в формате, использованном при обучении, а в роли пользовательских сообщений — реплики продавца. Обучающие данные охватывают финансовые услуги и потребительские товары; поведение в других областях, включая закупки B2B и приём пациентов, не проверено. Модель не предназначена для обслуживания конечных пользователей, выдачи достоверных сведений о товарах или исследования реальных предпочтений покупателей. Синтетические ответы могут отражать стереотипы из обучающих данных. Лицензия Apache-2.0.

deepseekvit412malign.deepseekv41flash — модель извлечения признаков изображений на основе визуальных весов DeepSeek-V4.1-Flash, представленная в формате timm. По карточке это нативное преобразование весов без дополнительного обучения; языковые веса и обученная голова классификации в репозитории отсутствуют. Модель предназначена для получения визуальных признаков и эмбеддингов, а также для подготовки визуального backbone к дообучению классификации. Визуальный энкодер использует патчи 14×14, SwiGLU, RMSNorm и двумерное осевое RoPE. Веса содержат 485,3 млн параметров; ширина backbone — 1024, проекции — 5120. На вход подаются RGB-изображения, на выходе доступны токены признаков, промежуточные карты признаков и объединённые эмбеддинги. Для стандартного входа указано разрешение 546×546; поддерживаются прямоугольные изображения при соблюдении кратности размеров патчу либо с дополнительным паддингом. Модель распространяется под лицензией MIT. Она не включает классификационную голову, поэтому для классификации требуется добавить и обучить её на целевом наборе данных. Преобразование изображений в timm отличается от исходного адаптивного препроцессинга DeepSeek.

Это модель визуального энкодера DeepSeek ViT, преобразованная сообществом timm из весов vision-компонента DeepSeek-V4.1-Flash. Представлена как нативное отображение весов для библиотеки timm без дополнительного обучения; языковые веса и обученная голова классификации не включены. Модель содержит около 411,8 млн параметров, использует патчи 14×14, ширину backbone 1024, SwiGLU, RMSNorm и двумерное осевое RoPE. Указанный размер изображения — 546×546; поддерживаются прямоугольные входы с ограничениями на кратность размера патча и обработку дополнения. Энкодер предназначен для извлечения признаков и эмбеддингов изображений, а также получения промежуточных карт признаков; классификационную голову можно дообучить на целевом наборе данных. Вариант с выравнивателем проецирует сгруппированные признаки патчей в ширину исходной языковой модели. Предобработка использует RGB-нормализацию со средним и стандартным отклонением 0,5; преобразование timm с сохранением пропорций отличается от оригинальной адаптивной обработки изображений. Лицензия — MIT.

facebook/dinov2-with-registers-large — крупная модель Vision Transformer, обученная методом DINOv2 с дополнительными register-токенами. Репозиторий впервые опубликован авторами DINOv2 with Registers; карточку модели подготовила команда Hugging Face. Модель содержит около 402,7 млн параметров и доступна в формате safetensors под лицензией Apache-2.0. Это предварительно обученный визуальный энкодер без дообученных классификационных голов. Он извлекает признаки и эмбеддинги изображений, которые можно использовать в последующих задачах, например обучая линейный классификатор поверх представления токена CLS. Добавление register-токенов при обучении уменьшает артефакты в картах внимания и улучшает их интерпретируемость. Модель предназначена для извлечения признаков из изображений и построения систем компьютерного зрения на их основе. Карточка не приводит сведений о контекстном окне или поддержке естественных языков; язык ввода не применим к визуальному энкодеру. Для классификации и других прикладных задач обычно требуется отдельная обученная голова или последующий компонент.

DRISTI-V2-Heavy — 155-миллионная модель классификации текста на архитектуре DeBERTa-v2 от автора swarajchattaraj. Она служит более медленным локальным резервным классификатором в каскадной системе DRISTI: после быстрой модели V1 обрабатывает сложные, технические или неоднозначные запросы, в том числе запросы, для которых V1 не уверена в результате. Модель выдаёт оценки классификации и предназначена для маршрутизации запросов, обнаружения входов вне обучающего распределения и отклонения бессмысленных или неподходящих запросов; для работы с полной логикой каскада README рекомендует официальный движок DRISTI. В README указано, что V2 работает на CPU и локально, тогда как метаданные задают контекст 512 токенов, язык английский и формат PyTorch. Заявленные для V2 на тестовой системе задержка около 699 мс и пропускная способность 1,43 запроса в секунду являются результатами конкретного теста, а не гарантией для других конфигураций. Лицензия — MIT.

DynamicRAG-7B — англоязычная модель на основе Llama 2, выпущенная авторами проекта DynamicRAG для динамического ранжирования документов в системах генерации с дополненным поиском (RAG). Она адаптирует порядок и количество найденных документов для каждого запроса, используя обратную связь от языковой модели. Обучение включает поведенческое клонирование экспертных траекторий и оптимизацию с подкреплением по обратной связи LLM. Модель имеет плотную архитектуру LlamaForCausalLM, около 6,6 млрд параметров и контекст до 4096 токенов; опубликована в формате safetensors и рассчитана на английский язык. В проекте её применяют для переупорядочивания и отбора найденных документов, чтобы улучшить ответы RAG-систем. Карточка описывает исследовательские эксперименты и оценивание на нескольких бенчмарках; для обучения авторы указывают требование не менее восьми GPU A100-80G. Лицензия — Apache 2.0.

DynamicRAG-8B — дообученная модель на базе Meta Llama 3 8B, разработанная авторами проекта DynamicRAG для динамического ранжирования документов в системах генерации с дополнением извлечёнными данными (RAG). Она меняет порядок и количество документов для каждого запроса, используя обратную связь от языковой модели; обучение включает supervised fine-tuning и оптимизацию с подкреплением. Модель предназначена для выбора наиболее полезного контекста перед генерацией ответа. В README описана оценка на семи бенчмарках и использование корпуса англоязычной Википедии 2018 года. Это плотная архитектура Llama с 7,5 млрд параметров, контекстом до 8192 токенов и форматом весов safetensors. Метаданные указывают английский язык и задачи генерации текста и question answering; для пользовательского применения основной сценарий — ранжирование контекста в RAG. Модель распространяется по лицензии Apache 2.0. Для обучения в README указано требование не менее восьми GPU A100 с 80 ГБ памяти; результаты и качество зависят от используемого генератора, корпуса и конфигурации поиска.

EAGLE3-Apertus-8B-Instruct-2509 — лёгкая черновая модель thomaskiefer для ускорения генерации текста моделью swiss-ai/Apertus-8B-Instruct-2509 методом speculative decoding. Она предназначена для использования вместе с целевой моделью через движки vLLM или SGLang: черновая модель предлагает будущие токены, а целевая модель проверяет их. Модель основана на архитектуре LlamaForCausalLMEagle3 с одним слоем; её размер — 843,1 млн параметров, контекст — до 65 536 токенов. Обучена на примерно 375 тысячах примеров диалогов, включая данные из UltraChat, ShareGPT и OpenThoughts-114k-math, с ответами, сгенерированными целевой моделью. Поддерживаемые языки по карточке — английский, немецкий, французский и итальянский. Выпущена под лицензией Apache-2.0. Это вспомогательная модель для ускорения инференса, а не самостоятельная замена целевой модели; фактическое ускорение зависит от сценария и совместимости с целевой моделью и движком.

Это преобразованная в формат GGUF модель ECAPA-TDNN для определения языка устной речи, основанная на speechbrain/lang-id-voxlingua107-ecapa и подготовленная для использования с CrispASR. Архитектура ECAPA-TDNN сочетает SE-Res2Net и attentive statistical pooling; в модели около 21 млн параметров, веса доступны в формате F16 размером около 43 МБ. Модель определяет язык речи среди 107 языков VoxLingua107 и может работать как предварительный этап перед распознаванием речи в разных ASR-бэкендах. Исходная модель обучена SpeechBrain на VoxLingua107, включающем 6 628 часов речи с YouTube. В репозитории указаны результаты небольшого теста на 12 языках; они не гарантируют аналогичную точность на других записях и условиях. Репозиторий содержит конверсию весов без дообучения и сохраняет лицензию Apache 2.0 исходной модели. Возможности и ограничения распознавания унаследованы от исходной модели; конверсия в GGUF сама по себе их не меняет.