II.10Разработка и эксплуатация AI/ML-систем

medismera представил производную модель Qwen3.8-27B-OBLITERATED-Mythos-Class-Agentic на основе слияния Qwen3.8-27B-OBLITERATED и Qwen/Qwen3.8-27B. Это плотная модель семейства Qwen3.5 с 27 млрд параметров для диалоговой генерации текста и работы в агентных сценариях. В карточке заявлены шаблон чата с поддержкой вызова инструментов, разбиение задач на иерархические этапы, протокол самопроверки рассуждений и контекст до 131 072 токенов; максимальная длина генерации указана как 16 384 токена. Модель предназначена для программирования, анализа системных журналов и телеметрии, многошаговых технических задач и взаимодействия с инструментами через совместимые агентные среды. Указаны английский, китайский и арабский языки. Репозиторий описывает веса в формате Safetensors и приводит варианты BF16, FP8 и AWQ в ветках; для запуска рекомендуются SGLang и vLLM. Лицензия — Apache-2.0. Заявления README о качестве вызова инструментов, результатах бенчмарков и отсутствии отказов приведены автором и не являются независимой оценкой. Это текстовая модель: метаданные не указывают вход или выход изображений, несмотря на мультимодальные возможности базовой модели.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-AWQ — это квантованная версия модели Qwen3.8-27B TURBO Fable Cold Fusion. Исходную модель и слияние весов GAIN разработал DavidAU, а квантование и упаковку выполнила Solstice-AI. Модель предназначена для программирования, агентной разработки, отладки репозиториев, решения задач на рассуждение и управления компьютером или мобильными устройствами. По данным README, заявлены поддержка английского и китайского языков, мультимодальный ввод изображений и видео, а также контекст до 262 144 токенов. Архитектура описывается как гибридная: 75% слоёв используют линейное внимание Gated Delta Recurrent Network, а 25% — Grouped-Query Attention. Модель содержит Multi-Token Prediction для спекулятивного декодирования и поставляется с визуальным проектором mmproj-BF16.gguf. Формат — AWQ INT4 (W4A16), поэтому модель рассчитана на экономичное инференс-развёртывание с использованием Anvil, vLLM или SGLang, но квантование может снижать точность по сравнению с полноразмерными весами и требует совместимого оборудования и программного стека. README приводит высокие результаты на SWE-bench Pro, LiveCodeBench, QwenSWEBench, OSWorld, AndroidWorld, IFBench и ARC, однако условия и независимая воспроизводимость этих оценок требуют проверки. Указана лицензия Apache 2.0; заявленная модификация alignment-механизмов означает, что модель может иметь меньше встроенных отказов и требует осторожного применения.

Qwen3-Coder-30B-A3B-Instruct-Q8_0-GGUF — это версия модели Qwen3-Coder-30B-A3B-Instruct, преобразованная в формат GGUF с помощью llama.cpp через сервис GGUF-my-repo проекта ggml.ai. Модель разработана командой Qwen; данный репозиторий поддерживается ggml-org и предназначен для запуска средствами llama.cpp. Модель относится к классу text-generation и ориентирована на задачи генерации текста и кода в сценариях локального инференса через llama.cpp, включая запуск в командной строке или в режиме сервера. Из доступных данных известно, что используется конфигурация Q8_0 с 30B параметров и архитектурой Mixture of Experts с активной частью 3B параметров, однако сведения о поддерживаемых языках, модальностях и размере контекста в карточке не приведены. Формат GGUF и интеграция с llama.cpp упрощают запуск на совместимом оборудовании, но требования к ресурсам и фактическая производительность зависят от аппаратной конфигурации. Лицензия указана как Apache-2.0. Подробные характеристики, ограничения и рекомендации по применению следует уточнять в карточке исходной модели Qwen/Qwen3-Coder-30B-A3B-Instruct, на которую ссылается README.

Qwen3-Coder-Next-AWQ-4bit — это 4-битная AWQ-квантизованная версия открытой языковой модели Qwen3-Coder-Next, разработанной Qwen и квантизованной пользователем bullpoint. Модель предназначена для генерации кода, разработки программного обеспечения, работы кодирующих агентов, использования инструментов и function calling, а также локальной интеграции с CLI и IDE. Заявлена поддержка сценариев с длительным рассуждением, сложным использованием инструментов и восстановлением после ошибок выполнения. Модель работает только в режиме без отдельного скрытого рассуждения и не генерирует блоки <think></think>. Архитектура — causal language model с гибридной структурой Gated DeltaNet и Gated Attention, построенная на Mixture of Experts. Она содержит 80 млрд параметров всего, из которых активируется 3 млрд, 48 слоёв, 512 экспертов и 10 активируемых экспертов; нативная длина контекста составляет 262 144 токена. Поддерживаются английский и китайский языки. Квантизация выполнена методом AWQ с разрядностью 4 бита, группами размера 32 и форматом compressed-tensors; заявленный объём видеопамяти — около 45 ГБ против примерно 151 ГБ для исходной версии BF16. К сильным сторонам относятся большой контекст, низкое число активируемых параметров при сохранении заявленной производительности и пригодность для локального развёртывания агентных задач. Ограничения включают существенные требования к видеопамяти, возможные потери качества из-за квантизации и отсутствие заявленных результатов бенчмарков в карточке. Модель распространяется по лицензии Apache-2.0.

btbtyler09/Qwen3-Coder-Next-GPTQ-4bit — квантизированная версия Qwen3-Coder-Next, разработанного командой Qwen и дополнительно подготовленного пользователем btbtyler09. Это языковая модель для генерации кода, общего чата и сценариев с вызовом инструментов, предназначенная для запуска в средах инференса vLLM и SGLang. Модель использует архитектуру Qwen3NextForCausalLM с гибридом линейного и полного внимания, включая DeltaNet. Она построена по схеме Mixture-of-Experts: содержит около 80 млрд параметров, из которых примерно 3 млрд активируются для каждого токена; на каждом шаге выбираются 10 из 512 экспертов. Архитектура включает 48 слоёв, контекстное окно до 262 144 токенов и поддержку инструментального вызова. Экспертные модули квантизированы в INT4 методом GPTQ с размером группы 32, тогда как внимание, общие эксперты, эмбеддинги, нормализации и LM head сохранены в FP16. Размер модели составляет около 47 ГБ вместо примерно 160 ГБ у исходной BF16-версии. К преимуществам относятся существенное уменьшение размера и требований к памяти при сохранении качества: на тесте wikitext-2-raw-v1 ухудшение perplexity относительно исходной модели составило около 0,8%. Ограничения связаны с необходимостью совместимого программного обеспечения и значительных вычислительных ресурсов для работы крупной MoE-модели; README не указывает точные языки, на которых она обучалась, и не приводит более подробных сравнений для задач программирования. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

trohrbaugh/Qwen3-Coder-Next-heretic — версия Qwen3-Coder-Next, созданная методом abliteration: в README приведено сравнение с исходной моделью и заметно снижение частоты отказов. Это причинная языковая модель семейства Qwen3-Next с архитектурой MoE, предназначенная для генерации кода и работы в агентных сценариях разработки. Модель поддерживает чат и интерфейс вызова инструментов; README описывает применение с CLI и IDE, а также работу в режиме без рассуждений. По метаданным, репозиторий содержит веса Safetensors и насчитывает 2,3 млрд параметров; нативное окно контекста — 262 144 токена. README приводит характеристики исходной Qwen3-Coder-Next: 80 млрд параметров всего и 3 млрд активируемых, поэтому эти размеры не следует считать подтверждёнными для данной версии. Лицензия — Apache-2.0. В таблице README частота отказов составляет 14 из 100 запросов против 99 из 100 у исходной модели, а KL-дивергенция указана как 0,0708. Эти результаты относятся к описанному в карточке сравнению и не гарантируют такое же поведение на других запросах. Модель может выдавать нежелательный контент и менее склонна отказывать; перед применением следует оценивать её ответы и учитывать соответствующие риски.

mradermacher/Qwen3-Embedding-0.6B-i1-GGUF — это набор GGUF-квантизованных версий модели Qwen3-Embedding-0.6B, разработанной командой Qwen и квантизованной пользователем mradermacher. Модель предназначена для получения векторных представлений текста и задач семантического поиска, сравнения предложений, извлечения признаков и построения систем на базе text embeddings inference. В README явно указан английский язык. Модель имеет размер около 0,6 млрд параметров в исходной версии и распространяется в форматах GGUF с различными схемами квантизации, включая IQ1_S, IQ2_M, IQ3_S, Q4_K_M, Q5_K_M и Q6_K. Размеры доступных файлов составляют примерно 0,3–0,6 ГБ. Варианты отличаются компромиссом между размером, скоростью и качеством; для Q4_K_M заявлены высокая скорость и рекомендованный баланс, а для низкобитных вариантов отмечается снижение качества. Архитектура, размер контекста и дополнительные поддерживаемые языки в README не указаны. Преимуществами являются компактный размер, возможность локального запуска через экосистему GGUF и широкий выбор уровней квантизации. Ограничения связаны с потерей качества у наиболее агрессивно квантизованных вариантов, а также с отсутствием в представленном README подробных сведений о качестве, контекстном окне и мультимодальности. Модель распространяется по лицензии Apache-2.0.

raging1.0-0.5B-fp16 — компактная языковая модель на 494 млн параметров, дообученная sajibsrs на Qwen/Qwen2.5-0.5B-Instruct для подготовки данных в конвейерах RAG. Это плотная авторегрессионная архитектура Qwen2, опубликованная в формате safetensors с точностью FP16; контекст — до 32 768 токенов. Модель предназначена для извлечения сущностей и отношений в виде JSON-троек, форматирования ответов по заданной схеме и краткого фактологического пересказа текста. Её можно использовать как быстрый первый этап обработки документов перед загрузкой в RAG-хранилище или граф знаний. В README приводятся улучшения точности извлечения троек и скорости относительно базовой модели, измеренные на небольшой выборке с 4-битной версией MLX; результаты зависят от оборудования и не являются гарантией качества FP16-модели. Лицензия — Apache-2.0. Модель ориентирована на одношаговое структурированное извлечение, а не на диалог. Она может объединять несколько сущностей в одну, оставлять местоимения вместо разрешённых имён и хуже справляться со сложными вложенными или условными JSON-схемами; результаты рекомендуется проверять по схеме, а при ошибках передавать более крупной модели.

sergeyzh/rubert-mini-uncased-query — компактный BERT-энкодер, разработанный для симметричного сравнения поисковых запросов. Это дообученная версия sergeyzh/rubert-mini-uncased, обученная дистилляцией эмбеддингов русских и английских текстов с учётом префикса Qwen/Qwen3-Embedding-8B. Модель имеет 38,8 млн параметров, 7 слоёв, размер эмбеддинга 384 и контекст до 512 токенов; регистр букв не учитывается, специальные префиксы для запросов не нужны. Модель предназначена для оценки семантического сходства запросов, кэширования и фильтрации повторяющихся или близких запросов к LLM, а также для сценариев Q2Q RAG. Карточка сообщает об оценке сходства пар поисковых запросов на русском языке относительно Qwen/Qwen3-Embedding-8B; приведённые в таблице метрики относятся к другим вариантам модели и не позволяют судить о точных показателях этой версии. Модель принимает текст и выдаёт векторные представления для сравнения. Поддерживаются русский и английский языки. Лицензия — MIT.

SFR-Embedding-Mistral — текстовая модель эмбеддингов, разработанная Salesforce Research. Она основана на E5-mistral-7b-instruct и Mistral-7B-v0.1 и предназначена для преобразования текста в векторы, которые можно использовать для поиска и сравнения семантической близости. Архитектура — плотная Mistral с 7,1 млрд параметров, контекст — до 32 768 токенов; доступны веса в формате safetensors. В карточке заявлена поддержка английского языка. Модель подходит для создания векторного поиска, поиска похожих предложений и оценки сходства текстов; она также отмечена в контексте бенчмарка MTEB. Выпуск предназначен для исследований, а датасеты третьих сторон могут иметь дополнительные условия лицензирования. Лицензия модели — CC BY-NC 4.0, поэтому коммерческое использование не разрешено её условиями. Перед применением следует отдельно оценивать точность, безопасность и возможную предвзятость.

Snowflake/snowflake-arctic-embed-xs — компактная модель эмбеддингов текста из семейства Arctic Embed, разработанного Snowflake. Она предназначена для поиска по смыслу и извлечения релевантных документов, включая семантический поиск и retrieval-компонент систем RAG. Модель основана на all-MiniLM-L6-v2 и использует архитектуру BERT. В метаданных указано 25,9 млн параметров и контекст до 512 токенов; README приводит 22 млн параметров и размерность эмбеддинга 384. Компактный размер рассчитан на сценарии с жёсткими ограничениями по задержке и стоимости. В README сообщается результат 50,15 NDCG@10 на MTEB Retrieval. Карточка описывает обучение и оценку для задач поиска, но не подтверждает поддержку конкретных языков, поэтому модель следует выбирать с учётом языка и данных своего корпуса. README указывает на более новые многоязычные версии Arctic Embed, которые авторы рекомендуют для многоязычных сценариев. Репозиторий содержит форматы ONNX и safetensors. Лицензия в предоставленных данных не указана.

Sophea-Nemo-Embedding — плотная модель эмбеддингов для семантического поиска на греческом и английском языках, разработанная Kiefer SA на основе NVIDIA Nemotron-3-Embed-1B-BF16. Модель дообучена для извлечения релевантных документов и служит первым этапом двухэтапной RAG-системы, где за поиском кандидатов может следовать Sophea-Nemo-Reranker. Модель использует архитектуру Ministral-3 с двунаправленным кодированием, mean pooling и L2-нормализацией; размерность эмбеддинга — 2048, контекст — до 262144 токенов. Для запросов и документов нужны префиксы «query: » и «passage: » соответственно; сходство можно оценивать по косинусной близости или скалярному произведению. В указанной авторами оценке на пяти тематических областях дообученная модель показала более высокие результаты поиска, чем базовая модель и сравнивавшиеся готовые эмбеддеры. Подходит для семантического поиска и получения кандидатов для RAG на греческом и английском языках. Модель создана полным дообучением Nemotron-3-Embed-1B с контекстом обучения до 4096 токенов. Греческий язык находился вне языков обучения базовой модели, поэтому заявленные авторами улучшения относятся к их тестовой оценке и не гарантируют такой же результат на других корпусах. Лицензия указана как other; конкретные условия следует проверить в карточке репозитория.

Sparse-Llama-3.1-8B-2of4 — разреженная версия Llama-3.1-8B, разработанная Neural Magic. Это авторегрессионная языковая модель с 2:4 структурированной разреженностью: в каждой группе из четырёх весов сохраняются два. Линейные операторы в блоках трансформера были прорежены с помощью SparseGPT, затем модель дообучали с дистилляцией знаний на 13 млрд токенов, чтобы восстановить качество. Размер модели — 7,5 млрд параметров, контекст — до 131 072 токенов; она принимает и генерирует текст. Модель предназначена для генерации текста и развёртывания языковых моделей с более эффективным использованием вычислений и памяти. README сообщает о результатах на OpenLLM и Mosaic Eval Gauntlet, близких к плотной версии Llama-3.1-8B, и описывает развёртывание через vLLM. Базовая модель поддерживает восемь языков, однако карточка не перечисляет их по отдельности. Лицензия — llama3.1; применение должно соответствовать её условиям.

Это англоязычный разреженный текстовый энкодер SPLADE, опубликованный tomaarsen и дообученный на базе Luyu/co-condenser-marco с помощью Sentence Transformers. Модель преобразует предложения и абзацы в разреженные векторы размерности 30 522; близость оценивается скалярным произведением. Архитектура включает BERT с masked language modeling и SPLADE-пулингом по максимуму с ReLU. Модель предназначена для семантического поиска и разреженного поиска информации: например, для ранжирования документов по запросу в поисковых системах и системах retrieval. Максимальная длина входной последовательности — 512 токенов. Для дообучения использовались 99 000 примеров; в README приведены оценки на NanoMSMARCO, NanoNFCorpus и NanoNQ. Модель принимает текст на английском языке и выдаёт разреженные векторные представления. В репозитории указаны веса Safetensors, библиотека Sentence Transformers и лицензия Apache-2.0. Результаты оценки относятся к небольшим наборам Nano и сами по себе не гарантируют качество на других данных.

SPLADE-v3-Doc — разработанная командой Naver модель разреженных текстовых представлений для семантического поиска и разреженного извлечения документов. Это асимметричный SPLADE-энкодер без вычислений на стороне запроса: он кодирует предложения и абзацы в разреженные векторы размерности 30 522, сопоставляемые скалярным произведением. Архитектура построена на BertForMaskedLM с максимальной длиной последовательности 512 токенов; для воспроизведения оценки использовалось 256 токенов. Модель относится к семейству SPLADE-v3 и основана на Luyu/co-condenser-marco. В карточке приведены результаты на MS MARCO dev (MRR@10 37,8) и среднем BEIR-13 (nDCG@10 47,0). Модель предназначена для индексирования текстов и поиска релевантных предложений или абзацев; язык карточки и метаданных — английский. Репозиторий использует PyTorch и safetensors, а лицензия CC BY-NC-SA 4.0 требует атрибуции и ограничивает коммерческое использование.

amgix/static-retrieval-multilingual-69m-v1 — многоязычная модель статических текстовых эмбеддингов от Amgix, полученная дистилляцией ibm-granite/granite-embedding-97m-multilingual-r2 и настроенная для поиска. Она создаёт векторы для документов и запросов, чтобы находить семантически близкие тексты; статические эмбеддинги позволяют вычислять их значительно быстрее на CPU и GPU, чем у исходной модели, что подходит для систем с ограниченными ресурсами и сценариев реального времени. В карточке приведены результаты сравнительных тестов по многоязычному поиску, включая NanoBEIR и RTEB, а также тест скорости на CPU. В испытаниях модель показывает разные результаты в зависимости от языка и набора данных; например, в английском поиске кода она уступила одному из сравниваемых вариантов. Модель доступна в формате safetensors и может загружаться через Model2Vec или Sentence Transformers. Лицензия — Apache-2.0.

OpenMatch/t5-ance — модель семейства T5, дообученная для получения представлений запросов и документов в задачах поиска. Обучение проводилось на наборе MS MARCO Passage по процедуре ANCE с увеличенным размером пакета; модель содержит 123,8 млн параметров и принимает последовательности длиной до 512 токенов. В README приведён результат MRR@10 0,3570 на dev-разбиении MS MARCO Passage. Модель предназначена для извлечения признаков текста, в частности для кодирования запросов и пассажей в поисковых системах и системах ранжирования. Репозиторий содержит веса PyTorch и Safetensors. Лицензия — MIT.

Модель vit_base_patch16_clip_224.openai_ft_in12k_in1k — модель классификации изображений на основе Vision Transformer (ViT), опубликованная в библиотеке timm. Она предварительно обучена OpenAI на парах изображений и текстов WIT-400M с помощью CLIP, а затем дообучена на ImageNet-12k и ImageNet-1k. Модель содержит 86,6 млн параметров и рассчитана на изображения размером 224 × 224 пикселя. Модель предназначена для классификации изображений и может использоваться как визуальный backbone для извлечения признаков и построения эмбеддингов изображений. Веса доступны в форматах PyTorch и Safetensors; лицензия — Apache-2.0. Модель принимает изображения и выдаёт предсказанные классы либо векторные признаки.

vit_base_patch16_siglip_gap_256.webli — визуальный энкодер семейства SigLIP, опубликованный в библиотеке timm. Модель принимает изображения и предназначена для извлечения признаковых представлений; глобальное усреднение признаков (global average pooling) формирует векторное представление изображения. Размер входного изображения — 256 пикселей, патчи — 16 × 16. Модель подходит для получения признаков изображений в конвейерах компьютерного зрения, например для последующей индексации или сравнения изображений. В карточке указана лицензия Apache-2.0. Данные не описывают языковую часть или генерацию текста: это только визуальный энкодер.

Это визуальный энкодер SigLIP из библиотеки timm с архитектурой ViT-Base и патчами 16×16, обученный на данных WebLI. Вариант использует глобальное усреднение признаков и предназначен для извлечения векторных представлений изображений. Модель подходит для построения эмбеддингов изображений, поиска похожих изображений и других систем, использующих визуальные признаки. Карточка описывает только image encoder, поэтому модель не следует считать генератором текста или изображений. Весы доступны в форматах PyTorch и safetensors; лицензия — Apache-2.0.

MaTE X Privacy Sentinel v0.1 — дообученная Enosis Labs модель OpenAI Privacy Filter для локального обнаружения и маскирования персональных данных и секретов в тексте. Она предназначена для фильтрации конфиденциальных строк, в том числе учетных данных и параметров подключения, перед их сохранением или передачей. Модель использует архитектуру MoE, содержит 145,4 млн параметров и рассчитана на контекст до 131 072 токенов. Это модель для разметки токенов на базе Transformers; в README приведены span F1 0,9956 на валидации и 0,9894 на тесте. Доступны веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Она служит вспомогательным средством защиты конфиденциальности и не гарантирует соответствие требованиям; перед применением в production рекомендуется провести собственную проверку на контрольных примерах.

answerai-colbert-small-v1 — экспериментальная модель с несколькими векторами от Answer.AI, обученная по рецепту JaColBERTv2.5 с дополнительными изменениями. Она использует архитектуру BERT и содержит около 40 млн параметров по метаданным; в README авторы указывают размер 33 млн. Модель рассчитана на англоязычный поиск по пассажам и извлечение релевантных документов в RAG-системах, а также может применяться для переранжирования результатов поиска. ColBERT-кодирование хранит несколько векторов для текста и сопоставляет запрос с документами методом позднего взаимодействия. Это даёт модели сильные результаты на приведённых авторами тестах для модели её размера, включая BEIR. Контекст составляет 512 токенов; доступны веса Safetensors и формат ONNX. Лицензия — Apache-2.0. README описывает модель как доказательство концепции, поэтому результаты на бенчмарках не гарантируют качество для конкретного корпуса или сценария.

bce-embedding-base_v1 — модель эмбеддингов семейства BCEmbedding, разработанная командой Youdao и опубликованная пользователем maidalun1020. Она предназначена для построения векторных представлений текста и семантического поиска, в первую очередь для поиска фрагментов в системах RAG. Модель использует архитектуру XLM-RoBERTa с плотным энкодером; в метаданных указано 305,2 млн параметров и контекст до 514 токенов. Модель поддерживает китайский и английский языки, включая межъязыковой поиск между ними. Двухкодировочная архитектура рассчитана на эффективный первичный отбор текстов; карточка рекомендует при необходимости дополнить поиск отдельным реранкером BCEmbedding. Модель не требует специальных инструкций для запросов и может применяться в разных областях, включая образование, право, финансы и медицину. Модель принимает текст и выдаёт векторные представления. В репозитории указаны веса PyTorch и лицензия Apache-2.0. Заявленная языковая поддержка ограничена китайским и английским; перенос качества на другие языки не подтверждён карточкой.

bert-chunker-Chinese-2 — китайский сегментатор документов на базе BERT, созданный авторами проекта bc-chinese. Модель с архитектурой BertForTokenClassification размечает начальные токены фрагментов, а скользящее окно позволяет нарезать документы произвольной длины на части для последующей работы, например, в RAG-системах. Авторы позиционируют её как альтернативу семантическому чанкеру, рассчитанную в том числе на неструктурированные и плохо подготовленные тексты. В экспериментальном скрипте можно задать максимальное число токенов в одном фрагменте. Модель содержит 27,6 млн параметров, принимает текст и рассчитана на контекст до 512 токенов. Карточка указывает английский и китайский языки. Репозиторий распространяется в формате safetensors по лицензии MIT. README описывает обновлённый вариант с изменённой разметкой данных и процессом обучения, но не называет базовую модель.

deepset/bert-small-mm_retrieval-question_encoder — модель deepset для кодирования вопросов в плотные векторы, предназначенные для поиска по коллекции документов или таблиц в системах retrieval-augmented question answering. Это компонент архитектуры Dense Passage Retrieval (DPR), использующий класс DPRQuestionEncoder; в репозитории указано около 32,4 млн параметров и контекст до 512 токенов. Hugging Face относит модель к задаче feature-extraction. Модель принимает текст вопроса и выдаёт его векторное представление, которое можно сопоставлять с векторами passage- или table-encoder для поиска релевантного содержимого. Примеры deepset используют её как query embedding model в Haystack. Карточка Hugging Face не содержит описания лицензии или подробной информации о языках и обучении, поэтому эти характеристики здесь не заявляются.

Chonky modernbert base v1 — модель для разбиения текста на смысловые фрагменты, разработанная автором репозитория mirth и дообученная на answerdotai/ModernBERT-base. Она присваивает токенам метки границ фрагментов, чтобы получить семантически связные части текста для последующей индексации и поиска в системах RAG. Модель построена на архитектуре ModernBERT с 149 млн параметров и использует библиотеку Transformers. Она обучалась на абзацах из BookCorpus; карточка приводит F1 0,79, точность 0,83 и полноту 0,75 на уровне токенов. Хотя базовая ModernBERT поддерживает контекст до 8192 токенов, эта версия дообучалась на последовательностях длиной 1024 токена. Модель ориентирована на англоязычный текст и выдаёт разметку токенов, а не готовые эмбеддинги или ответы. Для её использования автор указывает библиотеку chonky. Лицензия — MIT.

Карточка модели manaladan6/codegeex4-all-9b на Hugging Face совпадает с карточкой zai-org/codegeex4-all-9b, поэтому описание составлено по ней. CodeGeeX4-ALL-9B — открытая многоязычная модель генерации кода от команды CodeGeeX, созданная на базе GLM-4-9B путём продолженного обучения. Она предназначена для помощи в разработке программного обеспечения: генерирует и дополняет код, отвечает на вопросы о коде и репозиториях, а также поддерживает сценарии с интерпретатором кода, веб-поиском и вызовом функций. Модель имеет плотную архитектуру семейства ChatGLM и 11,4 млрд параметров; заявленная длина контекста — 131 072 токена. Карточка указывает поддержку китайского и английского языков, а примеры ориентированы на программирование, в том числе на Python. По README, CodeGeeX4-ALL-9B показывает конкурентные результаты на BigCodeBench и NaturalCodeBench и рассчитана на широкий набор задач разработки. Метаданные указывают формат safetensors и лицензию other; конкретные условия лицензии следует проверять в репозитории модели. Результаты для конкретных языков программирования и сценариев могут различаться; сама карточка не приводит подробных ограничений или гарантий качества.

CodeGeeX4-ALL-9B — открытая многоязычная модель генерации кода, разработанная командой THUDM и дообученная на базе GLM-4-9B. Модель предназначена для помощи в разработке программного обеспечения: автодополнения и генерации кода, ответов на вопросы по программированию, работы в режиме интерпретатора кода, веб-поиска, вызова функций и ответов на вопросы по репозиториям. Представленная версия распространяется в формате GGUF и рассчитана на локальный запуск с совместимыми инструментами, включая llama.cpp. Модель содержит около 9 миллиардов параметров, поддерживает китайский и английский языки и имеет контекст длиной до 128K токенов. Заявлена поддержка различных сценариев генерации кода и конкурентоспособные результаты на публичных бенчмарках, включая HumanEval, MBPP, BigCodeBench и NaturalCodeBench. К сильным сторонам относятся сочетание качества генерации, широкого контекста и относительно высокой скорости вывода при размере менее 10 миллиардов параметров. README не указывает поддерживаемые модальности помимо текстового ввода и вывода, а также не приводит подробностей об ограничениях, безопасности или качестве работы в отдельных языках программирования. Веса распространяются по специальной лицензии CodeGeeX4; точные условия необходимо уточнять в файле лицензии по ссылке, указанной разработчиками.

ColBERT-Zero — много-векторная модель для поиска и ранжирования текстов, разработанная LightOn AI на базе ModernBERT. Она предназначена для семантического поиска по коллекциям документов и уточнения результатов первичного поиска с помощью позднего взаимодействия ColBERT и функции сходства MaxSim. Модель обучена на открытых данных в трёхфазном процессе с дистилляцией и, согласно карточке, достигает 55,43 nDCG@10 на бенчмарке BEIR. Модель содержит 149 млн параметров, выдаёт векторы размерности 128 и поддерживает контекст до 8192 токенов по метаданным. Для документов README приводит длину до 519 токенов, для запросов — до 39. Она рассчитана на английский язык и работает с текстом; для корректного поиска необходимо использовать асимметричные промпты `search_query:` и `search_document:` через соответствующие режимы query и document. Использовать модель можно через PyLate, а Apache-2.0 разрешает коммерческое применение. Результаты экспериментов зависят от обучающих данных и согласования промптов с режимом кодирования: их пропуск или неверное применение может заметно ухудшить качество. Авторы также отмечают, что выводы о преимуществах много-векторного обучения могут зависеть от масштаба обучения и качества сигнала дистилляции.

CyberTech Neural Shield DeBERTa — модель классификации последовательностей, разработанная как второй уровень шлюза безопасности CyberTech Neural Shield. Она дообучена на базе microsoft/deberta-v3-base; в метаданных архитектура указана как DeBERTa-v2, размер модели — 211,6 млн параметров. Модель анализирует входные запросы и относит их к классам Benign или Attack. Модель предназначена для фильтрации запросов перед генерацией ответа LLM в корпоративных сценариях. Она выявляет косвенные prompt injection-атаки, jailbreak-попытки, подмену инструкций, повышение привилегий и атаки социальной инженерии. Поддерживаемые по карточке языки — турецкий, английский и немецкий; максимальный контекст — 512 токенов. Весовые файлы представлены в формате safetensors. Лицензия — MIT. Модель ориентирована на роль компонента защитного контура, а её классификация сама по себе не гарантирует обнаружение всех вредоносных запросов.