II.10Разработка и эксплуатация AI/ML-систем

neureps/warmly-nmt-kobart-enko — экспериментальная дообученная модель для перевода английских комментариев на корейский язык. Её создали в рамках пилотного проекта Warmly на базе KoBART-base-v2: обучение проводилось на 883 парах предложений, архитектура — BART, размер базовой модели — 124 млн параметров, контекст — 1026 токенов. Пилот признан неудачным: по README, chrF составил 5,67, а модель почти игнорировала содержание входа. Авторы связывают это с тем, что KoBART предварительно обучена преимущественно на корейском и не усвоила перевод с английского на малом наборе примеров. Модель сохранена как экспериментальный контрольный результат и помечена авторами как непригодная к использованию. Лицензия — MIT.

Ant-10M — экспериментальная decoder-only языковая модель на архитектуре Llama, разработанная и обученная с нуля автором проекта GODELEV. Она создана как инженерный эксперимент по масштабированию очень малых языковых моделей и проверке устойчивости обучения при жёстких ограничениях на токенизатор и размер представлений, а не как функциональный помощник. Модель содержит 9,9 млн параметров и 12 слоёв, использует скрытый размер 256, Grouped-Query Attention, RoPE и словарь из 4096 токенов. Контекст — до 1024 токенов. Она принимает текст и выдаёт продолжение текста; карточка указывает английский язык. Модель обучалась на наборе GODELEV/Archaea-5M-T. Автор прямо предупреждает, что выводы модели бессвязны и не обладают смысловой, разговорной или грамматической связностью. Низкая perplexity относится к ограниченному пространству мелких фрагментов токенизатора и не означает пригодности для обычной генерации текста. Модель распространяется по лицензии Apache-2.0.

catmind-1.2b — текстовая модель LiquidAI/LFM2.5-1.2B-Thinking, дообученная автором marcodsn с помощью LoRA. Она предназначена для эксперимента с рассуждениями: вместо содержательной цепочки решения модель выдаёт короткую историю о кошке, а затем пытается дать ответ на задачу. Модель имеет архитектуру LFM2, около 1,5 млрд параметров и контекст до 128 000 токенов; поддерживает диалоговый режим и работает с текстом на английском языке. На проверке 1 000 математических задач точность составила 24,3% против 75,6% у базовой модели. Результаты демонстрируют, что содержание рассуждений влияет на решение; модель также подходит для развлечения и изучения поведения языковых моделей. Она намеренно хуже базовой модели в математике и всегда предваряет ответ историей о кошке, поэтому не подходит для сценариев, где важна точность. В README указано исследовательское и развлекательное назначение; лицензия в метаданных обозначена как other.

Deep-Thought-Posttrain — экспериментальная англоязычная диалоговая языковая модель, опубликованная tsfrm и дообученная на HuggingFaceTB/SmolLM2-360M-Instruct. Она генерирует текст и оформляет ответы в два этапа: показывает рассуждение в блоке, похожем на chain-of-thought, а затем всегда выдаёт «42» как итоговый ответ. Предназначена для демонстрации этой заданной схемы поведения и локального запуска через Ollama, llama.cpp или Transformers. Модель имеет плотную архитектуру семейства Llama с классом LlamaForCausalLM и содержит около 361,8 млн параметров. Контекст — до 8192 токенов; доступны веса в форматах Safetensors и GGUF. Указана лицензия Apache-2.0. Ключевое ограничение — итоговый ответ всегда равен «42», поэтому модель непригодна для получения обычных фактических ответов и надёжного решения задач. Рассуждения внутри ответа могут содержать ошибки, несмотря на заявления README о точности.

PixelModel — экспериментальная компактная нейросеть от Bench Labs, предназначенная для генерации изображений по текстовому описанию. Её веса кодируются пикселями PNG: при инференсе изображение декодируется в матрицы небольшой полносвязной MLP, а текстовый запрос преобразуется в вектор. Модель генерирует изображения размером 32×32 пикселя. Репозиторий содержит веса в формате safetensors и средства обучения и инференса. В README модель прямо названа игрушечной и непригодной для практического применения; простые шаблоны обучаются быстрее. Лицензия — MIT.

peft-internal-testing/tiny-random-gemma4-E2B — тестовый миниатюрный чекпойнт на основе архитектуры Gemma 4, разработанной Google. Модель создана для внутреннего тестирования интеграции и сценариев Parameter-Efficient Fine-Tuning (PEFT) в библиотеке Transformers, а не для прикладного использования или конкурентной оценки качества. Модель поддерживает условную генерацию с текстовыми, визуальными и аудиокомпонентами через Gemma4ForConditionalGeneration и AutoProcessor. Конфигурация намеренно уменьшена: текстовая часть содержит 4 скрытых слоя, размер скрытого состояния 8, 8 attention-heads и 4 key-value heads; аудиочасть — 2 слоя и размер скрытого состояния 64; визуальная часть — 2 слоя и размер скрытого состояния 8. В README не указаны точные языки, размер контекста, число параметров и фактические показатели качества. Весы инициализированы случайно, поэтому модель не предназначена для получения содержательных ответов и, вероятно, имеет крайне ограниченные практические возможности. README не содержит сведений о лицензии, условиях распространения или ограничениях использования.

Clyrai_Lucius-1.3B — экспериментальная плотная языковая модель на архитектуре Llama с 1,3 млрд параметров и контекстом 4096 токенов. Её разработала команда Clyrai как неудачный эксперимент постобучения базовой модели Clyrai_Lucius-1.3B-Base: авторы применяли SFT, GRPO, слияние и DPO, чтобы обучить модель маркерам рассуждений и уровням усилий. Модель принимает и генерирует текст; заявленные языки — английский, хинди и итальянский. Модель предназначена для исследования и личной оценки самого эксперимента, а не для практического применения как ассистент или система рассуждений. Авторы сообщают, что эксперимент не достиг цели: форматные маркеры не обеспечили полезных знаний и качественного рассуждения. Лицензия Clyrai Sovereign Research License 1.0 разрешает исследовательское и личное оценивание с указанием авторства; иных разрешений README не заявляет.

VinaySLM (tiny) — небольшая языковая модель, созданная автором проекта VinaySLM с нуля на PyTorch для демонстрации устройства декодерных трансформеров. Это плотная GPT-подобная архитектура decoder-only с 466 176 параметрами и словарём из 255 токенов; используется простой регистронезависимый токенизатор уровня слов, обученный на корпусе самого проекта. Модель генерирует продолжения текста по текстовому запросу и предназначена для изучения токенизации, эмбеддингов, причинного внимания, обучения и генерации. Обучение проводилось на игрушечном корпусе из нескольких сотен токенов с предложениями об ИИ и программировании. Модель сильно переобучена: близкие к обучающим примерам запросы могут воспроизводить их дословно, а на новых запросах ответы часто низкого качества или повторяются. Это демонстрационный учебный чекпойнт, а не модель для практического применения. Для загрузки через Transformers требуются пользовательский код репозитория с разрешением trust_remote_code=True и установленный пакет vinayslm. Лицензия — MIT.

BAAI/bge-large-en-v1.5 — англоязычная модель эмбеддингов семейства BGE, разработанная Beijing Academy of Artificial Intelligence (BAAI) для поиска и сравнения текстов. Она преобразует текст в векторы, пригодные для семантического поиска, извлечения документов и построения систем с дополненной генерацией (RAG). Версия v1.5 улучшает retrieval и делает модель менее зависимой от инструкций для запросов по сравнению с предыдущей версией. Модель основана на архитектуре BERT и содержит 433,9 млн параметров. Она принимает текстовые входы на английском языке, имеет контекстное окно до 512 токенов и доступна в форматах PyTorch, Safetensors и ONNX. Для поиска можно сначала получить кандидатов с помощью эмбеддингов, а затем повысить точность ранжирования отдельной моделью BGE Reranker. Модель подходит для семантического поиска и сходства предложений. README предупреждает, что абсолютные значения сходства не следует трактовать как универсальную шкалу: из-за особенностей обучения оценки могут быть выше 0,5 даже для несхожих предложений. Лицензия — MIT.

nomic-embed-text-v1.5 — текстовая модель эмбеддингов, разработанная Nomic AI на архитектуре NomicBert. Она преобразует тексты в векторы для семантического поиска, формирования RAG-индексов, кластеризации, удаления семантических дублей и подготовки признаков для классификации. Для разных сценариев перед текстом требуется указывать соответствующий префикс задачи, например search_document или search_query. Модель поддерживает контекст до 8192 токенов и создаёт векторы размерностью 768; благодаря Matryoshka Representation Learning размерность можно уменьшать с небольшим снижением качества. README описывает именно текстовую модель: отдельная nomic-embed-vision-v1.5 выровнена с её пространством эмбеддингов, но это не означает, что данный репозиторий принимает изображения. Модель распространяется по лицензии Apache-2.0.

Многоязычный бинарный классификатор Vijil для обнаружения prompt injection и jailbreak-атак в пользовательском тексте, извлечённых документах, логах и результатах инструментов. Модель дообучена на внутреннем датасете Vijil vijil/pi_v5_multilingual_20260827 на базе энкодера jhu-clsp/mmBERT-base; опубликована в формате safetensors и решает задачу классификации текста. Метки: 1 — обнаруженная атака, 0 — безопасный текст. В README сообщается о сбалансированной точности 0,978 на отложенной выборке из 75 011 примеров и FPR/FNR 2,31%/2,16% при пороге 0,5. Модель проверялась на разных форматах сериализации и специально обучалась не реагировать на отдельные ключевые слова и безвредные варианты текста. Поддерживаемые языки карточки: английский, русский, китайский, арабский, хинди, немецкий, французский, испанский, вьетнамский, корейский, тайский и бенгальский. Для длинных сообщений README рекомендует нарезку на перекрывающиеся окна: усечение может пропустить атаку в конце текста. Оценки softmax не откалиброваны как вероятности; порог следует выбирать на данных целевого трафика, а при агрегации большого числа окон учитывать накопление ложных срабатываний. Чувствительность к запросам с вредоносным содержанием без признаков инъекции снижена; качество на некоторых низкоресурсных языках ниже. Обфускация может повышать ложные срабатывания без предварительной нормализации. Лицензия указана как other, поэтому конкретные условия использования следует проверять в карточке модели.

Карточка модели ArchiveStudio/Qwen3-Reranker-8B на Hugging Face совпадает с карточкой Qwen/Qwen3-Reranker-8B, поэтому описание составлено по ней. Qwen3-Reranker-8B — текстовая модель для переранжирования, разработанная командой Qwen. Она оценивает релевантность пар «запрос — документ» и помогает упорядочить найденные кандидаты так, чтобы наиболее подходящие фрагменты оказались выше. Модель предназначена для поиска по текстам и коду, включая многоязычный и межъязыковой поиск, например как этап извлечения контекста в RAG-системах. Модель основана на плотной авторегрессионной архитектуре Qwen3 и дообучена на базе Qwen/Qwen3-8B-Base. В ней около 7,6 млрд параметров; метаданные указывают контекст до 40 960 токенов, а README — 32 тыс. токенов. Заявлена поддержка более 100 языков. Модель поддерживает инструкции, настраиваемые под задачу; в README отмечено, что их применение может улучшать результаты поиска. Для получения оценки релевантности модель принимает текстовую пару и выдаёт оценку, пригодную для ранжирования. В README указано, что по умолчанию это разность логитов; при необходимости её можно преобразовать в вероятность. Для работы с моделью заявлена библиотека Transformers, также описано использование Sentence Transformers. Лицензия — Apache-2.0.

Карточка модели avsolatorio/01-600-11-1-2-2-0-0-cls-qli_6-normed-384-512_ASYM_BAAI_bge-small-en-v1.5-20240417105647-latest на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.

BAAI/bge-base-en — англоязычная плотная модель эмбеддингов семейства BGE, разработанная BAAI. Она преобразует текст в векторы для семантического поиска, извлечения документов, кластеризации и классификации, а также для использования в векторных базах данных и системах RAG. Модель основана на BERT, содержит 136,7 млн параметров и принимает последовательности длиной до 512 токенов. Эмбеддинги можно применять для поиска близких по смыслу фрагментов и ранжирования кандидатов по относительной близости векторов. README рекомендует использовать более новую BAAI/bge-base-en-v1.5: у исходной версии распределение оценок сходства менее удобно, поэтому абсолютный порог сходства следует выбирать на данных конкретной задачи. Для коротких поисковых запросов к длинным документам инструкция к запросу может улучшить поиск. Модель предназначена для английского языка. Доступны веса в форматах PyTorch, safetensors и ONNX. Лицензия — MIT.

khoa-klaytn/bge-base-en-v1.5-angle — текстовая модель эмбеддингов на основе BERT из семейства BGE, созданного BAAI; этот репозиторий распространяет англоязычную версию base-размера. Модель преобразует текст в плотные векторы для семантического поиска, извлечения документов, сравнения предложений, классификации и кластеризации, в том числе для поиска контекста в системах с векторными базами данных и RAG. Модель содержит 136,7 млн параметров, принимает текстовые входы длиной до 512 токенов и выдаёт эмбеддинги. Версия BGE v1.5 улучшает работу при поиске без инструкций к запросам; для коротких запросов, используемых для поиска длинных документов, инструкция может улучшить результат. Оценки сходства следует трактовать относительно друг друга: абсолютный порог нужно подбирать на собственных данных. Лицензия — MIT.

Карточка модели katanemo/bge-large-en-v1.5 на Hugging Face совпадает с карточкой BAAI/bge-large-en-v1.5, поэтому описание составлено по ней. BAAI/bge-large-en-v1.5 — англоязычная модель эмбеддингов семейства BGE, разработанная Beijing Academy of Artificial Intelligence (BAAI) для поиска и сравнения текстов. Она преобразует текст в векторы, пригодные для семантического поиска, извлечения документов и построения систем с дополненной генерацией (RAG). Версия v1.5 улучшает retrieval и делает модель менее зависимой от инструкций для запросов по сравнению с предыдущей версией. Модель основана на архитектуре BERT и содержит 433,9 млн параметров. Она принимает текстовые входы на английском языке, имеет контекстное окно до 512 токенов и доступна в форматах PyTorch, Safetensors и ONNX. Для поиска можно сначала получить кандидатов с помощью эмбеддингов, а затем повысить точность ранжирования отдельной моделью BGE Reranker. Модель подходит для семантического поиска и сходства предложений. README предупреждает, что абсолютные значения сходства не следует трактовать как универсальную шкалу: из-за особенностей обучения оценки могут быть выше 0,5 даже для несхожих предложений. Лицензия — MIT.

BGE-M3 — многоязычная модель представления текста семейства XLM-RoBERTa, разработанная BAAI. Она предназначена для поиска по текстам и поддерживает три режима представления: плотные эмбеддинги, разреженные лексические веса и многовекторные представления в стиле ColBERT. Модель можно применять для семантического и гибридного поиска, оценки сходства текстовых пар и извлечения документов в RAG-системах. Модель поддерживает более 100 языков и обрабатывает фрагменты от коротких предложений до документов длиной до 8192 токенов. Размерность плотных эмбеддингов — 1024; в репозитории доступны форматы PyTorch и ONNX. Для повышения точности поиска README рекомендует сочетать гибридное извлечение с отдельной моделью-реранкером. Репозиторий unsloth/bge-m3 содержит производную версию BAAI/bge-m3. Лицензия MIT допускает использование на её условиях. Это модель для поиска и векторизации текста, а не генеративная языковая модель; качество зависит от языка, данных и настройки поискового конвейера.

CompendiumLabs/bge-m3-gguf — это GGUF-версия модели BGE-M3, опубликованная Compendium Labs и основанная на исходной модели BAAI/bge-m3 от Beijing Academy of Artificial Intelligence (BAAI). Это не генеративная языковая модель, а многоязычная модель текстовых представлений для семантического поиска, поиска по сходству, гибридного retrieval и RAG-систем. Модель построена на архитектуре XLM-RoBERTa, содержит около 568–569 млн параметров, формирует векторы размерности 1024 и поддерживает контекст до 8192 токенов. Она рассчитана более чем на 100 языков и объединяет три режима поиска: dense retrieval, sparse retrieval и multi-vector retrieval в стиле ColBERT. Репозиторий CompendiumLabs содержит файлы GGUF в форматах F16 и F32; размер F16-файла составляет около 1,16 ГБ, F32-файла — около 2,27 ГБ. Сильные стороны модели — многоязычность, обработка длинных документов и возможность получать несколько типов retrieval-представлений из одной модели, что удобно для гибридного поиска. Ограничение состоит в том, что модель предназначена для эмбеддингов и извлечения признаков, а не для генерации текста; для максимальной точности поиска рекомендуется дополнительно применять отдельный reranker. Качество может различаться между языками, поскольку объём и баланс обучающих данных неодинаковы. В карточке CompendiumLabs указана лицензия MIT.

bge-m3-GGUF — GGUF-квантизированная версия многоязычной модели эмбеддингов BGE-M3, разработанной BAAI. Модель предназначена для семантического поиска, извлечения признаков, sentence similarity и построения RAG-систем. Квантизация выполнена на основе версии llama.cpp с идентификатором 61408e7f. BGE-M3 поддерживает более 100 языков и три режима поиска: плотный retrieval, разреженный retrieval с весами токенов и multi-vector retrieval. Модель обрабатывает тексты от коротких предложений до длинных документов длиной до 8192 токенов и формирует векторы размерности 1024. Она подходит для гибридного поиска, объединяющего семантические эмбеддинги и BM25, а также для последующего reranking найденных документов. К сильным сторонам относятся многоязычность, поддержка длинного контекста и объединение нескольких функций извлечения в одной модели. README не содержит сведений о точном размере GGUF-файлов, используемой схеме квантизации, требованиях к ресурсам или детальных ограничениях качества; кроме того, модель предназначена для retrieval-задач и не является генеративной языковой моделью. Указанная лицензия — MIT.

Карточка модели harsh-cisco/bge-small-en-v1.5 на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.

Карточка модели tomaarsen/bge-small-en-v1.5-copy на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.

E5-Mistral-7B-Instruct-Embedding-GGUF — модель для создания текстовых эмбеддингов, основанная на intfloat/e5-mistral-7b-instruct. Модель разработана intfloat, а GGUF-квантизация выполнена Second State Inc. Она предназначена для задач семантического поиска, сопоставления текстов, кластеризации и построения retrieval-систем. В README указана поддержка английского языка и текстовая модальность. Модель доступна в нескольких вариантах квантизации GGUF с разрядностью от 2 до 8 бит, а также в формате f16; размер файлов составляет примерно от 2,72 до 14,5 ГБ. Рекомендуемыми названы варианты Q4_K_M, Q5_K_M и Q5_K_S, обеспечивающие баланс между размером и потерей качества. Контекстное окно — 4096 токенов. Для запуска через LlamaEdge требуется версия 0.8.2 или новее и шаблон prompt типа embedding. Более сильная квантизация уменьшает размер и требования к ресурсам, но может заметно снижать качество эмбеддингов; для малых вариантов в README отмечены существенные потери качества. Лицензия — MIT.

Granite-4.2-30B (MXFP4) — квантизированная версия языковой модели Granite-4.2-30B, разработанная командой Granite компании IBM. Это открытая text-generation модель для рассуждений, генерации и анализа кода, многошаговых задач, диалога, вызова инструментов и агентных рабочих процессов. Вариант MXFP4 предназначен для инференса с уменьшенными требованиями к памяти; он получен квантизацией исходной модели с помощью GPTQ, калиброванной на 2 тысячах примеров из SFT-датасета. Исходная модель представляет собой decoder-only dense Transformer с архитектурой GraniteForCausalLM, примерно 30 млрд параметров, 64 слоями, Grouped Query Attention с 32 attention heads и 8 KV heads, RoPE, SwiGLU, RMSNorm и раздельными входными и выходными embedding. Модель поддерживает текстовую модальность, встроенное рассуждение в режимах полного, отключённого и low-effort thinking, native tool calling и OpenAI-совместимые сценарии развёртывания. Нативный контекст составляет 128K токенов; заявлено расширение long-context до 512K. Тестировались English, German, Spanish, French, Japanese, Portuguese, Arabic, Czech, Italian, Korean, Dutch и Chinese. Сильные стороны модели — рассуждения, программирование, следование инструкциям, вызов инструментов, агентные задачи и работа с длинным контекстом. Ограничения включают возможное снижение качества на языках кроме English, а также риск неточных, предвзятых или небезопасных ответов; раскрываемое содержимое reasoning может быть промежуточным и не отражать окончательный вывод. Модель распространяется по лицензии Apache 2.0.

JinaColBERT V2 — мультиязычная модель поиска по текстовым запросам и фрагментам документов, разработанная Jina AI. Она использует архитектуру ColBERT с поздним взаимодействием токенов: модель строит многовекторные представления текста, пригодные для точного ранжирования найденных фрагментов в системах поиска и RAG. Число параметров — 658,7 млн, контекст — до 8194 токенов; базовая версия формирует эмбеддинги размерности 128, а варианты jina-colbert-v2-96 и jina-colbert-v2-64 позволяют сократить размер представлений. Поддерживаются десятки языков. Матриошковые эмбеддинги позволяют выбирать баланс между эффективностью и точностью. В README приведены результаты на BEIR, MS MARCO, MIRACLE и mMARCO, включая сравнения с предыдущими моделями и BM25. Модель предназначена для извлечения и ранжирования текстовых фрагментов, а не для генерации ответов. Для эксплуатации доступны веса Safetensors и ONNX. Лицензия CC BY-NC 4.0 разрешает использование с некоммерческими ограничениями.

Llama-3.3-Nemotron-Super-49B-v1.5 — большая языковая модель, разработанная NVIDIA как производная Meta Llama-3.3-70B-Instruct. Это reasoning-модель для диалогов, следования инструкциям, решения задач по математике, программированию и науке, а также для агентных сценариев, включая RAG и вызов инструментов. Она предназначена для разработчиков AI-агентов, чат-ботов, RAG-систем и других приложений на базе ИИ. Модель представляет собой плотный decoder-only Transformer с архитектурой, оптимизированной методом Neural Architecture Search. В отдельных блоках внимание может пропускаться или заменяться одним линейным слоем, а коэффициент расширения FFN варьируется, что уменьшает требования к памяти и повышает эффективность при сохранении качества. Модель обрабатывает только текст, поддерживает контекст до 131 072 токенов и генерирует текст. Основной язык — английский; также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского, тайского и языков программирования. Сильные стороны модели — сочетание рассуждений, чат-взаимодействия, инструментального использования и высокой эффективности, включая возможность работы на одной GPU H200 при больших нагрузках. Ограничения включают текстовую модальность, ориентированность прежде всего на английский язык, дату отсечения предобучающих данных 2023 годом и оптимизацию под NVIDIA GPU-ускоренные системы. Модель доступна для коммерческого использования на условиях NVIDIA Open Model License с дополнительными условиями Llama 3.3 Community License Agreement.

unsloth/Llama-3_3-Nemotron-Super-49B-v1-GGUF — GGUF-версия большой языковой модели Llama-3.3-Nemotron-Super-49B-v1, разработанной NVIDIA на основе Meta Llama-3.3-70B-Instruct и оптимизированной с применением Neural Architecture Search. Это плотная decoder-only Transformer-модель примерно на 49 млрд параметров с контекстом до 128K токенов и текстовым вводом. Модель предназначена прежде всего для английского языка и языков программирования, также поддерживает немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель ориентирована на рассуждения, диалог, следование инструкциям, генерацию кода, математику, RAG, tool calling и разработку AI-агентов, чат-ботов и других приложений на базе LLM. Постобучение включало SFT для математики, кода, рассуждений и вызова инструментов, а также этапы reinforcement learning и оптимизации предпочтений. Архитектура использует нестандартные блоки с пропуском или упрощением attention и переменным соотношением расширения FFN, что снижает требования к памяти и повышает эффективность при сохранении качества. Ограничениями являются преимущественно англоязычная специализация, возможное снижение качества на других языках и необходимость учитывать требования к ресурсам при запуске модели такого размера. Использование регулируется NVIDIA Open Model License; дополнительно указано соглашение Meta Llama 3.3 Community License Agreement. Модель заявлена как пригодная для коммерческого использования.

Llama Nemotron Embedding 1B v2 — мультиязычная модель эмбеддингов NVIDIA для поиска ответов на вопросы по большим коллекциям текстов. Она входит в коллекцию NeMo Retriever и предназначена для построения систем извлечения информации, включая межъязыковой поиск и поиск по длинным документам. Модель основана на дообученной Llama 3.2 1B и использует архитектуру Transformer-энкодера с двунаправленным представлением текста. В ней 1,2 млрд параметров; README указывает 16 слоёв и базовый размер эмбеддинга 2048. Контекст в README ограничен 8192 токенами, хотя в метаданных указано значение 131072 токена. Размер выходного вектора можно настроить на 384, 512, 768, 1024 или 2048 измерений. Модель оценивается на 26 языках, включая русский, и выдаёт плотные векторные представления текста. Подходит для семантического поиска, мультиязычного поиска и извлечения фрагментов для систем вопросно-ответного поиска по корпусу документов. Динамическая размерность эмбеддингов помогает сокращать затраты на хранение векторов. Модель готова к коммерческому применению; использование регулируется NVIDIA Open Model License Agreement и условиями Llama 3.2 Community Model License Agreement.

Nemotron-3-Embed-8B-BF16 — мультиязычная модель эмбеддингов текста, разработанная NVIDIA для семантического поиска, извлечения релевантных фрагментов и систем RAG. Она предназначена, в частности, для создания многоязычных вопросно-ответных приложений поверх крупных текстовых коллекций и поддерживает межъязыковой поиск. Модель основана на трансформере Ministral-3-8B-Instruct-2512, дообученном для получения эмбеддингов. Она содержит около 8 млрд параметров, кодирует текст в векторы размерности 4096 и использует двунаправленное внимание и усреднение представлений токенов. README указывает максимальную длину входа 32 768 токенов; метаданные каталога приводят для базовой модели контекст 262 144 токена. Модель принимает текст и выдаёт векторы; размер вектора можно уменьшать срезом с последующей L2-нормализацией. Заявлена поддержка 34 языков, включая русский, английский, китайский, арабский и хинди. Модель показала высокие результаты на мультиязычном бенчмарке RTEB по заявлению разработчика и предназначена для коммерческого применения. Для запуска README рекомендует Transformers 5.2.0 или новее и CUDA-совместимое окружение; также указана поддержка PyTorch и vLLM. Модель и конфигурация распространяются по лицензии OpenMDW-1.1; базовая модель выпущена под Apache 2.0. Для входов длиннее 32 768 токенов требуется разбиение на фрагменты или усечение.

Qwen3-Reranker-8B — текстовая модель для переранжирования, разработанная командой Qwen. Она оценивает релевантность пар «запрос — документ» и помогает упорядочить найденные кандидаты так, чтобы наиболее подходящие фрагменты оказались выше. Модель предназначена для поиска по текстам и коду, включая многоязычный и межъязыковой поиск, например как этап извлечения контекста в RAG-системах. Модель основана на плотной авторегрессионной архитектуре Qwen3 и дообучена на базе Qwen/Qwen3-8B-Base. В ней около 7,6 млрд параметров; метаданные указывают контекст до 40 960 токенов, а README — 32 тыс. токенов. Заявлена поддержка более 100 языков. Модель поддерживает инструкции, настраиваемые под задачу; в README отмечено, что их применение может улучшать результаты поиска. Для получения оценки релевантности модель принимает текстовую пару и выдаёт оценку, пригодную для ранжирования. В README указано, что по умолчанию это разность логитов; при необходимости её можно преобразовать в вероятность. Для работы с моделью заявлена библиотека Transformers, также описано использование Sentence Transformers. Лицензия — Apache-2.0.

voyage-4-nano — мультиязычная модель для создания текстовых эмбеддингов, разработанная Voyage AI для семантического поиска и извлечения релевантных документов. Она подходит для локальной разработки и сценариев, где важны низкая стоимость и высокая пропускная способность. Модель построена на плотной архитектуре Qwen3 и содержит 306,6 млн параметров; длина контекста по метаданным составляет 40 960 токенов. Модель обучена с Matryoshka Representation Learning и поддерживает эмбеддинги размерностью 2048, 1024, 512 и 256. Благодаря обучению с учетом квантования доступны выходы в форматах float32, int8, uint8 и бинарной точности. Эмбеддинги совместимы в общем пространстве с другими моделями серии Voyage 4, поэтому модели серии можно менять без переиндексации данных. По карточке модель поддерживает многоязычные тексты; лицензия — Apache 2.0.