II.10Разработка и эксплуатация AI/ML-систем

SPLADE-v2-distil — разреженный энкодер для поиска по предложениям и абзацам, представленный в карточке модели Naver. Он преобразует текст в разреженный вектор размерности 30 522; сходство между векторами оценивается скалярным произведением. Модель основана на distilbert/distilbert-base-uncased и использует архитектуру DistilBERT с MLM и max-пулингом SPLADE. Максимальная длина входа — 512 токенов, а для воспроизведения оценки в карточке указано ограничение 256 токенов. Модель предназначена для семантического поиска, разреженного поиска и извлечения релевантных фрагментов, включая поиск пассажей. Подходит для кодирования запросов и документов в поисковой системе, поддерживающей sparse-векторы. В метаданных указаны английский язык и датасет MS MARCO. Распространяется по лицензии CC BY-NC-SA 4.0, которая требует указания авторства и распространяет ограничения на коммерческое использование и производные работы на тех же условиях.

Step-3.5-Flash-GGUF-Q4_K_S — это квантизированная версия Step 3.5 Flash от команды StepFun, созданная на базе stepfun-ai/step-3.5-flash и распространяемая в формате GGUF с квантизацией Q4_K_S. Модель предназначена для локального развёртывания и ориентирована на задачи рассуждения, программирования, агентного взаимодействия и обработки длинных документов или больших кодовых баз. В основе модели лежит разреженная архитектура Mixture of Experts (MoE): всего модель содержит 196 млрд параметров, из которых при генерации каждого токена активируется около 11 млрд. Используется 3-way Multi-Token Prediction (MTP-3), обеспечивающий заявленную скорость генерации примерно 100–300 токенов в секунду в типичных сценариях и до 350 токенов в секунду в однопоточном программировании. Контекстное окно составляет до 256 тысяч токенов благодаря сочетанию Sliding Window Attention и полноразмерного внимания. Для локального запуска модель адаптирована под llama.cpp; на NVIDIA DGX Spark заявлена скорость около 20 токенов в секунду, а INT8-квантизация KV-кэша позволяет использовать контекст до 256 тысяч токенов. Сильные стороны модели — сочетание высокой эффективности, поддержки длинного контекста, задач программирования и многошаговых агентных сценариев, а также возможность обработки данных локально с сохранением приватности. В качестве ограничений следует учитывать значительный общий размер модели и высокие требования к оборудованию, несмотря на разреженную архитектуру и квантизацию. README не указывает поддерживаемые языки и мультимодальные возможности, поэтому их нельзя подтвердить. Модель распространяется по лицензии Apache 2.0.

vectorizer.vanilla — англоязычная модель-векторизатор компании Sinequa для поиска релевантных фрагментов по запросу. Она строит эмбеддинги запросов и passages, которые можно индексировать и сопоставлять для семантического поиска и извлечения информации. Модель основана на MiniLM-L6-H384 и архитектуре BERT, содержит около 25,9 млн параметров, выдаёт векторы размерности 256 и принимает последовательности длиной до 512 токенов. Она нечувствительна к регистру и диакритическим знакам. Модель обучена на парах «запрос — фрагмент» и триплетах с негативными примерами; качество оценивалось на англоязычных наборах BEIR, средний Recall@100 составляет 0,639. Подходит для построения векторного индекса и поиска по запросам. Для работы в Sinequa требуется версия не ниже 11.10.0; для CUDA указана вычислительная возможность выше 7.5. Лицензия в предоставленных данных не описана.

Verbatim RAG Extractor Model — дообученная KRLabsOrg модель на базе ModernBERT-base для отбора предложений, релевантных вопросу, в системе Verbatim RAG. Она кодирует вопрос и предложения документа в одной последовательности и применяет линейную классификационную голову, присваивая каждому предложению один из двух классов: релевантное или нерелевантное. Модель содержит 149 млн параметров, использует архитектуру ModernBERT и поддерживает контекст до 8192 токенов. Модель предназначена для извлечения подходящих фрагментов из найденных документов перед формированием ответа на вопрос. Порог уверенности по умолчанию равен 0,5; его можно менять, чтобы балансировать точность и полноту отбора. В карточке указана англоязычная поддержка. Лицензия — MIT. Для интеграции README рекомендует пакет verbatim-rag; заявлены зависимости от PyTorch и Transformers.

voyage-4-nano-mlx-bf16 — неофициальная версия Voyage-4-nano, подготовленная сообществом для запуска через MLX на компьютерах Apple с Apple Silicon. Это мультиязычная модель для создания текстовых эмбеддингов: запросы и документы обрабатываются с разными обученными префиксами, а для симметричных задач доступно общее кодирование. Модель построена на основе Qwen3 с двунаправленной обработкой; в метаданных указано 306,6 млн параметров и контекст до 40 960 токенов. Эмбеддинги подходят для семантического поиска и индексации документов на устройстве. Поддерживаются Matryoshka-размерности 2048, 1024, 512 и 256; автор карточки сообщает о близком совпадении с эталонной реализацией и совместимости пространства эмбеддингов с размещёнными моделями Voyage-4. Это порт в формате safetensors, а не отдельная квантизированная версия. Для длинных входов используется плотное внимание, поэтому обработка последовательностей на 32 тыс. токенов может занимать около шести секунд. Лицензия — Apache-2.0; порт неофициальный и не связан с Voyage AI или MongoDB.

Kompress-v2-base — англоязычная модель сжатия промптов для прокси LLM, разработанная на базе ModernBERT-base. Она предсказывает для каждого токена метку сохранения или удаления, чтобы сократить входной текст, сохранив его смысл и важные фрагменты. Архитектура включает LoRA-адаптер и две головы: классификатор токенов и свёрточную голову для оценки непрерывных фрагментов. Базовая модель содержит 149 млн параметров, адаптер — 3,4 млн обучаемых параметров; заявлена поддержка контекста до 8192 токенов. Модель предназначена для снижения объёма текста, передаваемого LLM, в том числе в диалогах, коде, трассах агентов и материалах из разных предметных областей. На тестовой выборке при пороге 0,5 указаны F1 0,918, сохранение 81,5% токенов и полнота сохранения критически важных фрагментов 0,974. Порог можно настраивать для компромисса между степенью сжатия и сохранением важных сведений. Выпущена по лицензии Apache-2.0.

google/xtr-base-en — англоязычная модель семейства T5 для многовекторного поиска по токенам, представленная Google. Она предназначена для извлечения и ранжирования релевантных документов по запросу в системах поиска и retrieval-augmented generation. Архитектура — плотный энкодер T5EncoderModel, размер — 123,8 млн параметров; доступны веса PyTorch и Safetensors. XTR формирует многовекторные представления текста и поддерживает поиск по токенам, что позволяет точнее сопоставлять запросы и документы, чем единое представление текста. Карточка описывает запуск реализации на PyTorch и ссылается на исследовательскую работу о роли извлечения токенов в многовекторном поиске. Модель распространяется по лицензии Apache-2.0.

AtmicEmbeddingv2 — модель семантических эмбеддингов, разработанная SriRamanaAtmic на базе intfloat/multilingual-e5-large и дообученная контрастивным методом с использованием подобранных сложных негативных примеров. Она предназначена прежде всего для поиска по текстам в схеме «запрос → документ»: перед запросом используйте префикс «query: », перед документом — «passage: », затем применяйте mean pooling и L2-нормализацию эмбеддингов. Модель основана на XLM-RoBERTa, содержит 658,7 млн параметров и принимает текст с контекстом до 514 токенов. Карточка указывает английские запросы и документы. Модель распространяется под лицензией MIT.

Auralis-Coder — специализированная авторегрессионная языковая модель для программирования и тем, связанных с искусственным интеллектом. Она разработана CodeDevX и дообучена на базе Qwen/Qwen2.5-1.5B; модель содержит 1,5 млрд параметров и использует архитектуру Qwen2 с плотной сетью трансформеров. Для генерации и понимания текста применяются токенизатор семейства Qwen2.5 и контекст до 131 072 токенов. Модель предназначена для генерации и объяснения кода, помощи в отладке, разбора алгоритмов и структур данных, а также ответов по машинному обучению, нейронным сетям и другим техническим темам. В README заявлены примеры языков программирования, включая Python, C/C++, Java, JavaScript, TypeScript, Rust, Go и SQL; это не означает поддержку соответствующих естественных языков. Основной язык естественного текста в метаданных — английский. Модель рассчитана на технические запросы; автор указывает, что вопросы вне программирования и ИИ не входят в её основную область применения. Качество ответов и кода следует проверять, а доступность длинного контекста не гарантирует одинаковую точность на всей его длине. Лицензия — MIT.

bahith-arabic-retrieval-4b — текстовая модель эмбеддингов для поиска релевантных арабских фрагментов по запросу, созданная дообучением Qwen/Qwen3-Embedding-4B. Она предназначена для семантического поиска, извлечения документов и построения RAG-систем на арабских корпусах. В карточке приведены результаты оценки на арабских задачах поиска: модель показывает nDCG@10 0,7971 на MIRACLRetrievalHardNegatives и поддерживает сравнение эмбеддингов по косинусному сходству. Модель имеет плотную архитектуру Qwen3, около 3,7 млрд параметров и контекст до 40 960 токенов по метаданным. README указывает максимальную длину последовательности 512 токенов и размер эмбеддинга 2560 измерений; благодаря Matryoshka Representation Learning вектор можно сокращать до 1024, 512, 256 или 128 измерений. Встроенный инструктивный шаблон применяется для запросов, а для документов отдельный шаблон не задан. Модель рассчитана прежде всего на современный стандартный арабский язык; диалекты представлены ограниченно. Лицензия — Apache-2.0.

bge-base-en-v1.5-gguf — англоязычная модель для создания векторных представлений текста (embeddings), основанная на модели BAAI/bge-base-en-v1.5 и представленная в формате GGUF компанией Compendium Labs. Она предназначена для семантического поиска, сопоставления текстов, кластеризации, построения retrieval-систем и других задач, где требуется сравнивать тексты по смыслу. Модель не предназначена для генерации текста. Работает через llama.cpp, llama-cpp-python и интеграцию LangChain. В репозитории доступны варианты F32 размером 417 МБ, F16 размером 209 МБ, Q8_0 размером 113 МБ и Q4_K_M размером 66 МБ. Точные сведения об архитектуре, размере контекста, размерности embedding-векторов и поддерживаемых языках в README не указаны; из названия и описания следует, что модель ориентирована на английский язык. Квантованные версии занимают меньше места и, по данным авторов, могут ускорять работу на CPU до 30% при минимальной потере точности, тогда как выигрыш на GPU обычно скромнее и зависит от приложения. Модель удобна для локального запуска и ресурсоёмких сценариев на CPU, однако качество и скорость зависят от выбранного формата квантования и оборудования. Для текстов на языках, кроме английского, применимость README не подтверждает. Репозиторий распространяется по лицензии MIT.

Adc05102002/bge-m3-vi-base — дообученная многоязычная модель эмбеддингов на основе BAAI/bge-m3, разработанная с заменённым токенизатором: его словарь из 8,5 тыс. токенов обучен на специализированном корпусе. Модель использует архитектуру XLM-RoBERTa с 409,4 млн параметров и выдаёт векторные представления размерности 1024. Она предназначена для семантического и плотного поиска, а также для извлечения релевантных документов в RAG-системах и доменных многоязычных сценариях. В карточке заявлена поддержка контекста до 8192 токенов, тогда как метаданные указывают native context в 4026 токенов. Для надёжного использования максимальную длину следует проверять на практике. Модель работает с текстом и рассчитана на многоязычный поиск; конкретные языки не перечислены. Репозиторий содержит веса в формате Safetensors, библиотека — Transformers. Лицензия MIT.

CompendiumLabs/bge-small-en-v1.5-gguf — это модель для построения векторных представлений текста, подготовленная Compendium Labs на основе исходной модели BAAI/bge-small-en-v1.5. Она предназначена для семантического поиска, сравнения текстов, кластеризации и других задач, где требуется преобразовать строки в embedding-векторы. Модель рассчитана на использование с llama.cpp, llama-cpp-python и интеграцией LangChain через LlamaCppEmbeddings. В репозитории доступны версии в формате GGUF с точностью F32, F16, Q8_0 и Q4_K_M; их размеры составляют примерно от 24 до 128 МБ. Квантизация может ускорять работу на CPU примерно до 30% при минимальной потере точности, а для GPU преимущество зависит от приложения. Из названия модели следует, что она ориентирована на английский язык; другие языки, размер векторного пространства, архитектура и максимальная длина контекста в README не указаны. Основные ограничения связаны с небольшой ёмкостью модели и возможной потерей точности в квантизированных вариантах. Лицензия — MIT.

Qdrant подготовила ONNX-порт модели BAAI/bge-small-en-v1.5 с квантизованными весами. Это компактная BERT-модель примерно на 40 млн параметров для получения текстовых представлений и поиска похожих предложений; в карточке также указаны задачи классификации текста и поиска сходства. Контекст ограничен 512 токенами. Модель подходит для семантического поиска, сравнения предложений и классификации текста в системах, использующих ONNX или FastEmbed. Указанная лицензия — MIT. Поскольку модель основана на англоязычной bge-small-en-v1.5, её основное применение — англоязычные тексты.

cde-small-v2 — англоязычная модель эмбеддингов текста, опубликованная автором под идентификатором jxm/cde-small-v2. Она дообучена на базе answerdotai/ModernBERT-base и использует архитектуру ContextualDocumentEmbeddingTransformer. В репозитории находятся веса двух этапов, около 281 млн параметров суммарно; для построения эмбеддингов при поиске используется второй этап, который автор оценивает примерно в 140 млн параметров. Модель предназначена для представления запросов и документов в виде векторов и поиска по смыслу; README сообщает о среднем результате 65,58 на MTEB для моделей менее 400 млн параметров на дату публикации. Модель учитывает контекст корпуса в два этапа: сначала формируются данные о наборе документов, затем они используются при вычислении эмбеддингов запросов и документов. Если сведения о корпусе заранее недоступны, можно передать заменяющие векторы, однако качество на MTEB снижается с 65,0 до 63,8. Для поиска нужно применять отдельные префиксы запросов и документов. Модель использует uncased-токенизатор ModernBERT и формат весов safetensors; README рекомендует загрузку с разрешённым trust_remote_code. Лицензия в предоставленных данных не указана.

Это дообученный Sentence Transformer на базе sentence-transformers/all-MiniLM-L6-v2, созданный автором репозитория opnsrcntrbtrian. Модель кодирует предложения и абзацы в плотные семантические векторы размерности 384 для поиска по смыслу и извлечения релевантных текстов. Архитектура включает энкодер BERT, mean pooling и нормализацию векторов; используется косинусное сходство. Модель принимает только текст. В README указана максимальная длина последовательности 256 токенов, а в метаданных — контекст 512 токенов; поэтому фактический предел следует сверять с используемой конфигурацией. Для поиска её можно применять вместе с индексом векторного поиска и сравнивать векторы запросов и документов. Данных о лицензии в предоставленных источниках нет.

Dagger-Qwen3.6-27B-GGUF-MTP — модель от peculiar-ragdoll, основанная на ThinkingCap-Qwen3.6-27B от bottlecapai, который, в свою очередь, является вариантом Qwen3.6-27B. Это GGUF-сборка для запуска через llama.cpp и совместимые среды, ориентированная на рассуждения, агентное программирование, генерацию кода и длительные многошаговые диалоги. В карточке также заявлена поддержка сценариев image-text-to-text и тег vision, однако подробности мультимодальной реализации не указаны. Модель имеет плотную архитектуру размером 27B параметров, заявленный нативный контекст — 262 144 токена, поддерживаемые языки — английский и китайский. Отличительная особенность этой версии — сохранённая MTP-голова nextn для speculative decoding: при поддержке со стороны runtime она может ускорять генерацию без изменения точности. Для vLLM и SGLang заявлено ускорение примерно в 1,5–2 раза, тогда как в llama.cpp требуются свежая сборка и специальный режим; актуальные релизные версии могут не поддерживать MTP. Сильные стороны модели — компактные ответы без лишнего текста, высокая эффективность рассуждений, способность сохранять связность в длинных агентных сессиях и эффективное использование контекстного окна. Главные ограничения — высокие требования к оперативной памяти из-за плотной архитектуры и дорогого KV-кэша; полный контекст 262 144 токена требует около 31,1 ГБ при 8-битном KV-кэше или 38,6 ГБ при 16-битном. Реальное ускорение MTP зависит от среды запуска. Лицензия — Apache-2.0.

Deepseek Coder 6.7B Instruct — языковая модель для генерации и обработки программного кода, разработанная DeepSeek и представленная в GGUF-квантизованном формате компанией Second State Inc. Модель основана на deepseek-ai/deepseek-coder-6.7b-instruct и предназначена для работы с инструкциями, ответами на вопросы и задачами программирования в локальных приложениях и сервисах, включая LlamaEdge. Модель содержит 6,7 млрд параметров; в README указана архитектура DeepSeek и контекстное окно 4096 токенов. Поддерживаются различные варианты квантизации от 2 до 8 бит, размером примерно от 2,53 до 7,16 ГБ. Варианты Q4_K_M, Q5_K_M и Q5_K_S обозначены как рекомендуемые благодаря балансу размера и качества. README не содержит точного перечня поддерживаемых языков программирования или естественных языков и не описывает мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Сильными сторонами являются адаптация к инструкциям, ориентация на код и возможность запуска в средах с ограниченными ресурсами за счёт квантизации. Ограничения включают контекст 4096 токенов и неизбежную потерю качества у наиболее компактных вариантов, особенно Q2_K и некоторых Q3/Q4-конфигураций. Для запуска через LlamaEdge требуется версия 0.2.8 или новее и соответствующий prompt template. Лицензия указана как deepseek с обозначением other; дополнительные условия должны быть проверены в файле LICENSE.

DeepSeek-V4-Flash-0731 — официальная версия модели DeepSeek-V4-Flash, разработанная DeepSeek AI и опубликованная в формате Unsloth. Она предназначена прежде всего для агентных сценариев, включая работу с терминалом и инструментами, автоматизацию, разработку программного обеспечения, генерацию кода, задачи full-stack и кибербезопасности. По данным README, модель превосходит предварительную версию DeepSeek-V4-Flash и DeepSeek-V4-Pro на ряде агентных и программных бенчмарков, оставаясь конкурентоспособной с ведущими проприетарными моделями. Модель имеет ту же структуру, что и DeepSeek-V4-Flash-DSpark, включая подключённый модуль speculative decoding. Точное число параметров, активный размер, поддерживаемые языки, модальности и размер контекста в README не указаны. Для взаимодействия используется совместимый с OpenAI формат сообщений; Jinja-шаблон чата не предоставляется, вместо него доступны отдельные скрипты кодирования и разбора ответов. Параметр reasoning_effort поддерживает уровни low, high и max. К сильным сторонам относятся улучшенные агентные возможности, результаты на задачах программирования и интеграция со speculative decoding через vLLM. Ограничениями являются необходимость использовать специальное кодирование сообщений и отсутствие в представленных данных подробных сведений об архитектуре, языках и требованиях к ресурсам. Указанная лицензия — MIT.

sebastian-hofstaetter/distilbert-dot-tas_b-b256-msmarco — модель плотного поиска и ранжирования текстовых фрагментов, разработанная Sebastian Hofstätter. Это двухэнкодерная архитектура BERT_Dot на основе DistilBERT: одни и те же 6 слоёв кодируют запрос и passage, а представление каждого текста формируется по вектору CLS; релевантность оценивается скалярным произведением векторов. Модель обучена на MSMARCO-Passage с методом Balanced Topic Aware Sampling и размером пакета 256. Модель подходит для поиска кандидатов по запросу в плотном векторном индексе и для повторного ранжирования уже найденного набора текстов. В README приведены результаты на MSMARCO, TREC-DL’19 и TREC-DL’20. Она принимает текст, выдаёт векторные представления и оценки релевантности, поддерживает английский язык и контекст до 512 токенов. Доступна в формате PyTorch; конкретная лицензия в предоставленных данных не установлена.

cross-encoder/ettin-reranker-150m-v1 — англоязычный кросс-энкодер, дообученный разработчиками модели на jhu-clsp/ettin-encoder-150m с использованием sentence-transformers и набора cross-encoder/ettin-reranker-v1-data. Модель обрабатывает пары текстов и выдаёт оценку релевантности, которую используют для повторного ранжирования результатов поиска и семантического поиска. Модель построена на архитектуре ModernBERT, содержит 149 млн параметров и поддерживает последовательности длиной до 7999 токенов. Она принимает текст и выдаёт один числовой скор для каждой пары текстов. В репозитории представлены веса safetensors, а также форматы ONNX и OpenVINO; основная библиотека — sentence-transformers. README приводит результаты оценки на задачах поиска и сравнительные замеры скорости, но не содержит полной таблицы результатов для этой версии модели. Модель подходит для повышения точности выдачи после первичного поиска, например в поисковых системах и RAG-конвейерах. Она рассчитана на английский язык, поэтому её пригодность для других языков не подтверждена. Лицензия — Apache-2.0.

Frontis-MA1-35B-GGUF — квантизированная версия модели FrontisAI/Frontis-MA1-35B, подготовленная bartowski в формате GGUF с использованием llama.cpp. Модель предназначена для задач machine learning engineering, автоматизированного исследования, агентских сценариев и программирования. Она поддерживает обработку текста и изображений при наличии дополнительного файла mmproj. Модель содержит около 36 млрд параметров и использует архитектуру MoE; в метаданных также указана поддержка MTP. Доступны варианты от BF16 и Q8_0 до более компактных IQ- и Q3-квантизаций. В качестве универсального варианта рекомендуется Q4_K_M размером около 21,86 ГБ, обеспечивающий компромисс между качеством и требованиями к памяти. Для максимального качества предлагаются Q6_K и Q6_K_L, а для ограниченных ресурсов — более компактные варианты с некоторым снижением качества. К сильным сторонам относятся мультимодальность, большой размер модели и широкий выбор квантизаций для запуска на различном оборудовании. Ограничения включают значительные требования к оперативной или видеопамяти, необходимость совместимого ПО и mmproj-файла для работы с изображениями, а также возможное снижение качества у компактных квантизаций. Языки и размер контекстного окна в README не указаны. Распространение осуществляется по лицензии CC BY-NC 4.0, допускающей некоммерческое использование на заявленных условиях.

Giga Embeddings 0826 480M GGUF — это квантованная GGUF-версия двунаправленного энкодера Giga Embeddings instruct 480M 0826, разработанного ai-sage и преобразованного в GGUF пользователем ai-babai. Модель предназначена для локального запуска через llama.cpp и Ollama и создаёт текстовые embeddings для семантического поиска, RAG, сравнения текстов, кластеризации и классификации. Она поддерживает русский и английский языки, а также рассчитана на работу с текстом; генерацию ответов и диалоговый режим не поддерживает. Модель имеет около 480 миллионов параметров и возвращает нормализованные embeddings размерностью 1024. Для поисковых задач запрос рекомендуется подавать с инструкцией в формате Instruct/Query, а документы — без инструкции; для симметричного сравнения текстов следует использовать одинаковую инструкцию или не использовать её. Метаданные GGUF задают mean pooling и L2-нормализацию. Доступны варианты BF16, Q8_0, Q6_K и Q4_K_M: Q8_0 является рекомендуемым компромиссом между качеством, размером и потреблением памяти, тогда как Q4_K_M занимает меньше всего места, но сопровождается заметной потерей качества представлений и поиска. Сильные стороны модели — компактность, возможность локального запуска на CPU или GPU, совместимость с llama.cpp и Ollama, а также специализация на русскоязычных и англоязычных embedding-задачах. Указанные авторами исходной BF16-модели результаты составляют 70,98 на Russian MTEB и 69,52 на English MTEB, однако полный MTEB для этих GGUF-файлов отдельно не проводился. Репозиторий распространяется по лицензии MIT; данная конвертация является независимым релизом ai-babai, а не официальным выпуском ai-sage.

GLM-4.5-Air-GGUF — это квантизированная в формате GGUF версия гибридной reasoning-модели GLM-4.5-Air, подготовленная Unsloth на базе модели Z.ai (Zhipu AI). Модель предназначена для создания интеллектуальных агентов, сложного рассуждения, программирования, использования инструментов и генерации текста. Она поддерживает два режима работы: thinking mode для задач, требующих многошагового рассуждения и tool usage, и non-thinking mode для быстрых ответов. GLM-4.5-Air использует архитектуру с 106 миллиардами общих параметров и 12 миллиардами активных параметров. Модель относится к текстовым моделям и заявлена для работы на английском и китайском языках. GGUF-версия ориентирована на локальный запуск, в том числе через llama.cpp; для него в README рекомендуется использовать параметр --jinja. Вариант Unsloth включает исправления chat template и использует подход Unsloth Dynamic 2.0, направленный на сохранение высокой точности при квантизации. Сильными сторонами модели являются сочетание рассуждения, программирования и агентных возможностей, а также более компактная и эффективная конфигурация по сравнению с GLM-4.5 при сохранении конкурентных результатов на заявленных тестах. Ограничения включают отсутствие в README подробностей о конкретном типе квантизации, поддерживаемой длине контекста, полном наборе языков, требованиях к оборудованию и результатах для всех отдельных бенчмарков. Модель и исходные версии GLM-4.5-Air выпускаются под лицензией MIT, допускающей коммерческое использование и вторичную разработку.

GlotLID — модель идентификации языка на базе fastText, разработанная командой cis-lmu. Актуальная версия V3 определяет язык текста среди 2102 меток, включая трёхбуквенные коды ISO с указанием письменности; доступны также предыдущие версии модели. Модель предназначена для автоматического определения языка коротких или длинных текстовых фрагментов, в том числе для маршрутизации текста по языковым обработчикам и предварительной разметки многоязычных корпусов. В метаданных указана задача text-classification, библиотека fastText и набор языковых тегов; README связывает разработку с исследованием EMNLP 2023 и датасетами GlotSparse, GlotStoryBook и glotlid-corpus. Модель выдаёт метку языка, а качество распознавания зависит от объёма и качества входного текста и покрытия конкретного языка в обучающих данных. Лицензия указана как other, поэтому перед использованием следует свериться с условиями репозитория.

gpt-oss-120b — открытая по весам языковая модель OpenAI для генерации текста, задач, требующих сложного рассуждения, и агентских сценариев. Она ориентирована на универсальное применение в продуктивных системах и разработке, включая вызов функций, веб-браузинг, выполнение Python-кода и Structured Outputs. Модель доступна через Transformers, vLLM, PyTorch/Triton, Ollama и LM Studio. Модель использует архитектуру Mixture-of-Experts: содержит 117 млрд параметров, из которых 5,1 млрд активируются при обработке запроса. Она оптимизирована с помощью MXFP4-квантизации весов MoE и рассчитана на запуск на одной GPU с 80 ГБ памяти, например NVIDIA H100 или AMD MI300X. Доступен настраиваемый уровень рассуждения — низкий, средний или высокий; заявлена возможность fine-tuning. Модель обучена с использованием формата ответов harmony и, согласно README, корректно работает только при его применении. К сильным сторонам относятся высокая вычислительная мощность для рассуждений, поддержка агентских инструментов, открытая настройка и возможность коммерческого использования. Ограничение — значительные требования к аппаратным ресурсам и обязательное соблюдение формата harmony. README не указывает поддерживаемые языки, длину контекста и результаты конкретных оценок. Распространение осуществляется по лицензии Apache 2.0.

Husky Nose — мультиязычный классификатор Patronus на базе ModernBERT (mmBERT), дообученный для выявления свойств потока данных в инструментах и операциях AI-агентов. Он независимо определяет три метки: доступ к чувствительным данным, получение данных из недоверенных источников и передачу данных за пределы локальной границы доверия. Несколько меток могут относиться к одному входу. Модель принимает текстовые описания инструментов, запросы и сериализованные операции и выдаёт оценки для трёх классов. Её используют для проверки политик агентов, маршрутизации по уровню риска, рабочих процессов согласования, сигналов предотвращения утечек и мониторинга безопасности. Архитектура — ModernBERT для классификации последовательностей; размер — 140,5 млн параметров, контекст — до 8192 токенов. Карточка называет немецкий и английский основными языками оценки; метаданные также указывают их как языки модели. В тесте на 2914 примерах заявлен macro-F1 0,965. Предсказание указывает на возможную способность инструмента, но не подтверждает выполнение действия, фактический доступ к данным или утечку. Неоднозначные инструменты могут требовать аргументов для классификации; модель не отслеживает поток данных между шагами агента, а другие языки активно не проверялись. Для критичных решений рекомендуется сочетать её с детерминированными правилами и настроенными порогами. Лицензия — Apache-2.0.

HyperNova 60B 2602 — языковая модель, разработанная Multiverse Computing на основе open-weight модели OpenAI gpt-oss-120b. Она сжата с помощью проприетарной технологии CompactifAI, которая уменьшает количество параметров и требования к памяти при сохранении заявленных возможностей рассуждения. Модель instruction-tuned и предназначена для эффективного развёртывания через библиотеку Transformers. Модель рассчитана на рассуждение, генерацию кода, приложения с RAG, агентские сценарии и задачи с использованием инструментов. Она поддерживает нативный вызов функций, OpenAI-совместимые схемы инструментов, структурированные ответы и настраиваемый уровень рассуждения. Архитектура — decoder-only Transformer; общий объём составляет 60 млрд параметров против 117 млрд у базовой модели. Основной язык — английский, другие языки формально не оценивались. Мультимодальность и размер контекста в README не указаны. К сильным сторонам относятся уменьшенный объём памяти, гибкость развёртывания, поддержка tool calling и агентских рабочих процессов. Ограничения включают отсутствие формальной оценки других языков и неполные сведения о контекстном окне, а также необходимость использовать trust_remote_code при загрузке. Модель распространяется по лицензии Apache 2.0.

ITS Embedding BGE — англоязычная модель эмбеддингов, дообученная ITS Global на основе BAAI/bge-large-en-v1.5 для семантического поиска и извлечения документов в базе знаний ITS Global. Модель на архитектуре BERT преобразует предложения и фрагменты текста в плотные векторы размерностью 1024; для сопоставления запросы и документы нужно кодировать одной моделью. Максимальная длина контекста — 512 токенов. В проверке на наборе ITS из 1 124 запросов модель показала Accuracy@5 0,961744 против 0,916370 у исходной BGE-large-en-v1.5. Этот результат относится к конкретной проверке и настройкам поиска, поэтому не гарантирует аналогичного качества на других данных. Модель формирует эмбеддинги и не генерирует ответы самостоятельно. Распространяется по лицензии MIT.

madhurjindal/Jailbreak-Detector — дообученная модель классификации текста для выявления попыток обхода ограничений и манипуляций в пользовательских запросах к ИИ. Она разработана для защиты языковых моделей, чат-ботов и API-шлюзов, а также для фильтрации контента. Модель присваивает входному тексту одну из двух меток: «Jailbreak» или «Benign»; заявленные сценарии включают обнаружение prompt injection, ролевых эксплойтов, попыток отключить фильтры и скрытых команд. Архитектура указана в метаданных как DistilBERT с классификационной головой; размер — около 280 млн параметров по README, контекст — до 512 токенов. README сообщает о дообучении через AutoTrain и приводит метрики на валидации: F1 0,961 и accuracy 0,976. В карточке есть противоречие: README называет базой Microsoft mDeBERTa-v3-base, тогда как метаданные указывают distilbert/distilbert-base-cased, поэтому точная базовая модель неясна. Язык карточки и тегов — английский; практические результаты могут зависеть от данных и типов атак, представленных при обучении. Лицензия — MIT.