I.14Автоматизация процессов и AI-агенты

Saxo/Linkbricks-Horizon-AI-Korean-Pro-8B — корейская разговорная языковая модель от Linkbricks, основанная на архитектуре Llama и содержащая 7,5 млрд параметров. По карточке, она дообучена на базе Saxo/Linkbricks-Horizon-AI-Korean-Advanced-8B-COT-boost; в цепочке обучения базовой модели использовались NousResearch/Hermes-3-Llama-3.1-8B, продолженное предобучение, SFT и DPO. Модель рассчитана прежде всего на корейский язык, также поддерживает английский, японский и китайский. Модель предназначена для диалога, генерации и написания текстов, перевода между корейским, китайским, английским и японским, суммаризации, анализа отзывов и публикаций, программирования, математических и логических задач. Указанное контекстное окно — 131 072 токена; доступны веса в формате safetensors, лицензия Apache-2.0. Карточка заявляет усиленную обработку многоязычных задач и сложных рассуждений; независимые показатели качества не приведены.

Saxo/Linkbricks-Horizon-AI-Llama-3.3-Korean-70B-sft-dpo — модель Linkbricks, дообученная специалистом по данным Юнсоном Джи на базе Meta Llama 3.3 70B Instruct методом SFT с последующим DPO. Это плотная авторегрессионная языковая модель на 69,5 млрд параметров с контекстом до 131 072 токенов; опубликованные веса доступны в формате safetensors по лицензии Apache 2.0. Модель рассчитана прежде всего на работу с корейским языком, а также на задачи с корейским, английским, японским и китайским языками. В карточке заявлены перевод между языками, суммаризация, ответы на вопросы, анализ отзывов и публикаций в соцсетях, написание текстов и кода, математические и логические рассуждения. Поддерживаются диалоговый режим и интерфейс вызова функций и инструментов. Карточка сообщает об обучении на корейских новостях и других корпусах, а также на многоязычных данных для перевода, диалогах и задачах рассуждения. Эти характеристики и улучшения приведены разработчиком; независимые оценки качества не указаны. Модель требует значительных вычислительных ресурсов из-за размера в 70 млрд параметров.

QuantFactory/Llama-3.1-Tulu-3-8B-SFT-GGUF — квантизированная версия модели Llama-3.1-Tulu-3-8B-SFT, созданная QuantFactory с использованием llama.cpp. Исходную модель разработал Allen Institute for AI (AI2) на базе meta-llama/Llama-3.1-8B и дообучил на смеси общедоступных, синтетических и созданных людьми наборов данных, включая allenai/tulu-3-sft-mixture. Модель предназначена прежде всего для следования инструкциям, диалоговых сценариев и генерации текста на английском языке. Она ориентирована на широкий круг задач, включая общение, MATH, GSM8K и IFEval. Это текстовая авторегрессионная модель; заявленная конфигурация содержит 8 миллиардов параметров. Для запуска предусмотрен формат GGUF, подходящий для экосистемы llama.cpp и совместимых средств инференса. В README рекомендуется ограничивать максимальную длину контекста до 8192 токенов при использовании vLLM, однако точное значение контекстного окна для этой карточки не указано. К сильным сторонам относятся улучшенное instruction following и возможность локального запуска благодаря квантизации и формату GGUF. Ограничения включают преимущественную ориентацию на английский язык, отсутствие мультимодальных возможностей в описании и ограниченную безопасность: модель может генерировать проблемные ответы, поскольку не оснащена полноценной фильтрацией ответов в процессе использования. Модель распространяется по Llama 3.1 Community License Agreement; условия исходной лицензии необходимо учитывать при применении квантизированной версии.

SanctumAI/Llama-3.2-3B-Instruct-GGUF — квантизированная версия языковой модели Meta Llama 3.2 3B Instruct, подготовленная SanctumAI. Это текстовая модель формата GGUF с генерацией текста на входе и выходе, предназначенная для многоязычного диалога, агентского поиска с извлечением данных и суммаризации. Модель имеет 3 млрд параметров и поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. В репозитории доступны варианты квантизации Q2_K–Q8_0, а также f16; их размер составляет примерно от 1,36 до 6,43 ГБ, а требуемый объём памяти — от 4,66 до 9,38 ГБ. Квантизация облегчает локальный запуск на устройствах с ограниченными ресурсами, однако может снижать точность по сравнению с исходной моделью. README не содержит сведений о размере контекстного окна и конкретной архитектуре. Модель ориентирована на прикладные сценарии общения и обработки текста, но, как и другие компактные языковые модели, может генерировать неточные, вредные или неподходящие ответы. Для использования рекомендуется применять шаблон чата Llama 3. Лицензия указана как Llama 3.2; исходная модель принадлежит Meta, при этом SanctumAI отвечает за квантизацию данного варианта.

Llama3.2-DeepHermes-3-3B-Preview-Reasoning-MAX-NEO-Imatrix-GGUF — это GGUF-квантизированная текстовая генеративная модель, основанная на NousResearch/DeepHermes-3-Llama-3-3B-Preview. Сборка подготовлена David_AU с использованием собственной технологии Neo Imatrix и «MAXED»-квантизации, при которой embedding- и output-тензоры сохраняются в формате BF16. Модель предназначена для локального запуска и ориентирована на рассуждения, следование инструкциям, диалог, решение задач, генерацию идей и текста, творческое письмо и ролевые сценарии. Указана лицензия Apache-2.0. Модель имеет размер около 3B параметров и поддерживает контекст до 128k токенов. Она работает только с текстом; сведения о поддерживаемых языках в README не приведены. Доступны варианты квантизации от IQ1_S до Q8_0, отличающиеся размером, скоростью и качеством. Более высокие кванты обычно лучше сохраняют способности к рассуждению, а варианты IQ4XS, IQ4NL и Q4 рекомендуются для творческих задач; для общего применения рекомендуются Q5, Q6 и Q8. Для reasoning-сценариев рекомендуется использовать как минимум IQ3. Сильные стороны модели — компактный размер, высокая скорость локального вывода, улучшенное следование инструкциям и потенциально более высокое качество благодаря Neo Imatrix и сохранению части тензоров в BF16. При этом качество рассуждений напрямую зависит от выбранного кванта: самые компактные варианты заметно уступают более крупным, а README не содержит независимых бенчмарков, подробных данных об обучении или гарантии заявленного превосходства над более крупными моделями. Для комфортной работы рекомендуется окно контекста не менее 8k токенов, особенно для вариантов IQ4 и ниже.

Llama-3-8B-NExtLong-128K-Base — базовая языковая модель семейства Llama, опубликованная авторами проекта NExtLong. Это плотная авторегрессионная модель примерно на 7,5 млрд параметров с окном контекста до 131 072 токенов; веса доступны в формате safetensors. Модель обучена на синтетических длинных контекстах, созданных методом NExtLong: в документ добавляются подобранные отвлекающие фрагменты, чтобы усилить работу с дальними зависимостями. Модель предназначена для генерации текста и задач, требующих анализа длинного контекста: поиска сведений в контексте, ответов на вопросы по длинным документам, работы с RAG и контекстом в несколько сотен страниц. В README приведены результаты на HELMET и RULER. Это базовая модель, а не instruct-вариант, поэтому для диалогового применения может потребоваться дополнительная настройка. Языковая поддержка и лицензия в предоставленных источниках не описаны.

Llama-3-8B-ProLong-64k-Base — длинноконтекстная языковая модель Princeton NLP, созданная авторами семейства ProLong на основе Meta Llama 3 8B Instruct. Модель продолжительно обучали на длинных текстах; в метаданных указан датасет princeton-nlp/prolong-data-64K, а число параметров составляет 7,5 млрд. Архитектура — плотная LlamaForCausalLM, веса представлены в safetensors; модель предназначена для генерации текста и диалогового взаимодействия. Модель рассчитана на сценарии, где нужно анализировать и генерировать текст с длинным контекстом. Метаданные указывают контекстное окно 65 536 токенов. README описывает семейство ProLong и приводит обучение моделей на данных до 512K токенов, но не подтверждает такое окно для данного 64k чекпойнта. Базовая модель ориентирована на английский язык; явного списка языков для этой версии нет. Разработчики сообщают о высокой производительности семейства ProLong на оценке HELMET, однако приведённое в README сравнение относится к основным instruct-моделям семейства, а не явно к этой Base-версии. Лицензия — Llama 3; перед использованием следует соблюдать её условия.

LLäMmlein2Vec 120M — немецкоязычная модель-энкодер, созданная командой LSX-UniWue на основе собственной авторегрессионной модели LLäMmlein 120M с преобразованием по методу LLM2Vec. Она предназначена для получения векторных представлений немецких текстов, например для семантического поиска, сравнения текстов и построения систем поиска по документам. Модель построена на архитектуре LLaMA с двунаправленным энкодером LlamaBiModel, содержит около 100,1 млн параметров и обрабатывает контекст до 8192 токенов. Для запуска авторы рекомендуют библиотеку llm2vec. Модель обучалась с использованием данных RedPajama-Data-V2. В метаданных указана лицензия other, поэтому условия использования следует уточнить в карточке модели и связанных материалах. Карточка ссылается на препринт, но не приводит здесь результаты оценки качества.

LLM2Vec-Meta-Llama-3-8B-Instruct-mntp — текстовый энкодер на основе decoder-only LLM Meta Llama 3 Instruct с 8 млрд параметров, разработанный исследовательской группой McGill-NLP. Модель создана по методике LLM2Vec, которая преобразует авторегрессионные языковые модели в двунаправленные энкодеры: включает двунаправленное внимание и обучение с маскированием следующего токена (MNTP). Репозиторий проекта и описание метода опубликованы McGill-NLP. Модель предназначена для получения векторных представлений текстов и их семантического сравнения. Основные сценарии включают поиск и извлечение релевантных документов, reranking, классификацию, кластеризацию, оценку семантического сходства и задачи text embedding. Запросы можно кодировать с инструкциями, а для документов инструкции не требуются; сходство представлений можно вычислять, например, по косинусной близости. В README явно указан английский язык. В примере используется усредняющее pooling и максимальная длина 512 токенов. Сильной стороной модели является адаптация мощной инструкционной LLM к задачам универсального текстового кодирования без перехода на отдельную encoder-архитектуру; методика также допускает дальнейшее fine-tuning. Ограничения связаны с указанной языковой специализацией на английском, зависимостью от custom code и PEFT-компонентов при загрузке, а также с вычислительными требованиями модели размером 8B. README не приводит подробных результатов бенчмарков или полного описания поддерживаемого контекста. Лицензия модели — MIT.

McGill-NLP/LLM2Vec-Mistral-7B-Instruct-v2-mntp — модель для преобразования decoder-only языковой модели Mistral 7B Instruct v2 в текстовый энкодер. Подход LLM2Vec использует двунаправленное внимание, masked next token prediction (MNTP) и, при необходимости, последующее контрастивное дообучение. В данном варианте указана загрузка MNTP-адаптера через PEFT. Модель предназначена для получения векторных представлений текста и задач семантического поиска, сопоставления запросов и документов, reranking, классификации, кластеризации и оценки семантического сходства. В README приведён сценарий поиска релевантных passages по веб-запросу с вычислением cosine similarity; для запросов могут использоваться инструкции, а для документов инструкции не требуются. Указан английский язык. Архитектурной основой является Mistral 7B Instruct v2; точный размер контекста в карточке не указан, однако в примере кодирования используется max_length=512. Сильной стороной является применение крупной instruction-tuned LLM для построения эмбеддингов и поддержка широкого спектра задач обработки текста. Ограничения включают ориентацию на английский язык, необходимость загрузки специализированного кода и MNTP-адаптера, а также значительные вычислительные требования, связанные с моделью класса 7B. Лицензия — MIT.

Loxa-4B — языковая модель на 4 млрд параметров, опубликованная frameai. Она построена на плотной архитектуре семейства Llama и предназначена для генерации текста; в карточке также описаны сценарии классификации, ответов на вопросы, перевода и суммаризации. Модель поддерживает контекст до 131 072 токенов и работает через библиотеку Transformers; доступны веса в формате safetensors и интерфейсы чата и вызова инструментов. Модель рассчитана на исследовательскую и разработческую работу с текстом и кодом. Автор заявляет о работе на CPU и видеокартах GTX, однако не приводит проверяемых бенчмарков или подробностей обучения; заявленные 96% точности нельзя однозначно интерпретировать. Возможны предвзятые или фактически неверные ответы, поэтому результаты следует проверять, особенно в критически важных сценариях. Лицензия в предоставленных данных не указана.

Это модель M2-BERT, разработанная Джоном Саад-Фалконом, Дэном Фу и Симран Аророй. Чекпойнт содержит около 136,7 млн параметров по метаданным и дообучен для поиска по длинным последовательностям; в README размер семейства обозначен как 80M. Модель принимает текстовые последовательности длиной до 32 768 токенов и предназначена для задач извлечения информации и поиска по длинным документам. Её можно загрузить через Transformers как BertForSequenceClassification; метаданные также указывают поддержку сходства предложений и классификации текста. Модель распространяется в формате PyTorch под лицензией Apache-2.0. Карточка не описывает ограничения качества или языков помимо английского, указанного в метаданных.

MegaBeam-Mistral-7B-512k — компактная языковая модель на 7,1 млрд параметров, представленная в работе «Scaling Context, Not Parameters: Training a Compact 7B Language Model for Efficient Long-Context Processing». Она дообучена на Mistral-7B-Instruct-v0.2 и предназначена для генерации текста и диалогов с длинными документами и контекстом до 524 288 токенов. Модель использует плотную архитектуру MistralForCausalLM и распространяется в формате Safetensors. Модель подходит для поиска фактов в объёмных текстах, многошаговых вопросов и ответов, суммирования и других сценариев, где требуется учитывать длинный контекст. В README приведены результаты оценок на NIAH, RULER и InfiniteBench; они указывают на сильное извлечение информации в некоторых тестах, но качество различается между задачами и не гарантирует результат на пользовательских данных. Для эффективного запуска длинного контекста требуются совместимые инструменты обслуживания модели и значительные вычислительные ресурсы. Лицензия — Apache-2.0.

Meno-Lite-0.1 — русско-английская языковая модель, разработанная Иваном Бондаренко из Новосибирского государственного университета. Это плотный причинный декодер на архитектуре Qwen2.5 с 7 млрд параметров, дообученный на базе RefalMachine/RuadaptQwen2.5-7B-Lite-Beta для работы с документами и контекстом. Модель рассчитана на извлечение информации, ответы на вопросы по документам, суммаризацию и построение графов знаний в RAG-сценариях. Модель ориентирована прежде всего на русский язык и также поддерживает английский. Контекстное окно по метаданным — 32 768 токенов; в README заявлен успешный поиск контрольной фразы в контекстах до 128 тыс. токенов, при этом качество сложных рассуждений заметно снижается на длине свыше 32 тыс. токенов. Авторы также отмечают высокую эффективность токенизатора для русского текста. Модель может галлюцинировать без релевантного контекста и намеренно слабее полагается на факты из параметрической памяти, поэтому не подходит как самостоятельная база знаний или универсальный чат-бот. Лицензия — Apache 2.0.

Muzian/minimind-embedding-moe — компактная модель для получения текстовых эмбеддингов, разработанная на базе MiniMind-3-MoE. Это причинный декодер с четырьмя экспертами и маршрутизацией top-1: всего 198 млн параметров, из которых для каждого токена активны около 64 млн. Обучение использует рецепт Qwen3-Embedding: pooling по последнему токену, контрастивную функцию InfoNCE с маскированием ложных негативов и MRL для получения эмбеддингов разной размерности. Модель предназначена для сравнения семантической близости текстов и поиска по смыслу; заявленный контекст — 32 768 токенов. В README приведены результаты на китайском бенчмарке C-MTEB STS, где MoE-версия уступает плотной MiniMind-Embedding на 0,056 в среднем. Метаданные указывают китайский и английский языки. Модель опубликована в формате safetensors, для использования предлагается библиотека Sentence Transformers. Лицензия — Apache-2.0.

UMCU опубликовал Sentence Transformer на основе UMCU/mirrorbert_medroberta.nl_meantoken, дообученный для преобразования предложений и абзацев в плотные векторы размерности 768. Модель использует архитектуру RoBERTa с усреднением токенных эмбеддингов и сравнивает векторы по косинусному сходству; в метаданных указано 153,2 млн параметров и библиотека sentence-transformers. Модель подходит для оценки семантического сходства текстов, семантического поиска, поиска перефразировок, кластеризации и классификации текстов. В README указана максимальная длина последовательности 30 токенов, тогда как метаданные каталога сообщают контекст 514 токенов; для практического использования следует учитывать лимит 30 токенов из карточки модели. Лицензия в предоставленных данных не указана.

wang7776/Mistral-7B-Instruct-v0.2-sparsity-30-v0.1 — разреженная версия чат-модели Mistral-7B-Instruct-v0.2, созданная методом Wanda с целевой разреженностью 30%. В карточке сказано, что pruning выполнен без дообучения и изменения весов. Модель основана на Mistral-7B-Instruct-v0.2; её архитектура — плотный трансформер MistralForCausalLM с Grouped-Query Attention и Sliding-Window Attention. Репозиторий содержит веса Safetensors; в метаданных указаны 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для диалогов и генерации ответов по инструкциям, подаваемым в формате Mistral с маркерами [INST] и [/INST]. Она принимает текст и генерирует текст. Карточка не задаёт основной язык модели. Лицензия — Apache-2.0. По заявлению карточки, разреживание сохраняет конкурентоспособное качество, но конкретные результаты оценки не приведены. У модели нет встроенных механизмов модерации, поэтому её ответы могут требовать отдельной проверки и фильтрации.

Unsloth/Mistral-Nemo-Instruct-2407-GGUF — это GGUF-версия инструкционной модели Mistral Nemo, опубликованная Unsloth. Модель предназначена для запуска в совместимых средах, поддерживающих формат GGUF, а также для диалоговых сценариев, генерации текста и выполнения инструкций. В README указано, что она связана с экосистемой Transformers и поддерживает английский язык. Из доступных данных следует, что модель относится к семейству Mistral Nemo и имеет размер 12B параметров, однако сведения о точной архитектуре, максимальном контексте, модальностях и конкретных вариантах квантования отсутствуют. Формат GGUF удобен для локального инференса и последующей работы с оптимизированными представлениями модели, но характеристики скорости и потребления памяти зависят от используемого варианта файла и программного окружения. Модель может быть полезна для локальных чат-ботов, ассистентов и экспериментов с дообучением: README описывает инструменты Unsloth для более быстрого fine-tuning с меньшим потреблением памяти и экспортом в GGUF. При этом заявленные ускорение и экономия памяти относятся к процессу дообучения в Unsloth, а не обязательно к инференсу этой конкретной модели. Лицензия — Apache-2.0.

Mistral-T5-7B-v1-Mistral-7B-Instruct-v0.1 — слитая чат-модель на архитектуре Mistral, созданная объединением Mistral-7B-Instruct-v0.1 и Mistral-T5-7B-v1 методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и диалоговые запросы; заявленный контекст составляет 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и других сценариев генерации текста по запросу. В README описаны смешивание слоёв внимания и MLP и формат bfloat16; в репозитории веса представлены в safetensors. Лицензия — Apache-2.0. README и метаданные не сообщают о языковом охвате и оценках качества, поэтому результаты для конкретных языков и задач требуют проверки.

Это модель Sentence Transformers на архитектуре MPNet, дообученная mertcobanov на наборе AllNLI Turkish triplets на базе microsoft/mpnet-base. Она преобразует предложения и абзацы в плотные векторы размерности 768, предназначенные для сравнения текстов по косинусному сходству; длина входа — до 512 токенов. Модель подходит для поиска семантически близких фраз и документов, оценки сходства предложений, поиска перефразировок, кластеризации и подготовки признаков для классификации текста. Обучающие примеры содержали турецкие предложения, однако в README поле языка указано как en, а метаданные карточки также содержат тег en; поэтому поддержка турецкого подтверждается обучающим набором, но заявленный основной язык неоднозначен. Модель содержит 136,7 млн параметров, использует MPNet с усреднением токенных представлений и опубликована в формате safetensors. Лицензия — Apache-2.0. Оценка на турецких AllNLI dev/test по cosine accuracy составила 0,7423 и 0,7503 соответственно; эти результаты относятся к указанным наборам и не гарантируют качество на других данных.

MrBERT — многоязычная модель-энкодер от BSC-LT на архитектуре ModernBERT, предварительно обученная с нуля на корпусе объёмом 6,1 трлн токенов. Она использует двунаправленный masked language modeling и предназначена для получения контекстных представлений текста на 35 европейских языках и кода. Модель содержит около 307 млн параметров, использует токенизатор SentencePiece с словарём на 256 тысяч токенов и поддерживает контекст до 8192 токенов. MrBERT подходит как основа для последующей настройки на поиск и извлечение информации, классификацию, семантический поиск и кросс-языковые задачи понимания текста. В карточке приведены оценки на XTREME и других многоязычных тестах, включая XNLI, PAWS-X и UDPOS; результаты различаются по задачам и языкам. Для получения эмбеддингов или прикладного предсказания потребуется соответствующая downstream-настройка. Модель распространяется под лицензией Apache-2.0. Хотя в обучающем корпусе присутствуют код и 35 языков, основная доля данных — английская (67,4%); результаты и качество могут быть неодинаковыми для разных языков и задач.

legacy107/multi-qa-mpnet-base-dot-v1-wikipedia-search — модель Sentence-Transformers на базе MPNet, разработанная для преобразования предложений и абзацев в плотные векторы размерности 768. Она предназначена для семантического поиска и кластеризации текстов; в поисковой системе её можно использовать для представления запросов и документов в общем векторном пространстве. Модель содержит 136,7 млн параметров и принимает текстовые последовательности длиной до 514 токенов. Модель обучалась с TripletLoss на евклидовом расстоянии. В карточке не указана лицензия, поэтому условия распространения и использования по имеющимся данным определить нельзя. Заявленные задачи — семантический поиск и кластеризация; качество зависит от соответствия текстов и поискового корпуса обучающим данным.

Nano-Em1-0.6B-v2.1 — модель текстовых эмбеддингов от KiteFish AI на базе Qwen3-0.6B. Она предназначена для поиска и сопоставления текстов, классификации, кластеризации и ранжирования по релевантности; для задач можно задавать инструкцию-префикс. Модель использует двунаправленное внимание вместо стандартной причинной маски, усреднение токенных представлений и выдаёт векторы размерности 1024. В README указана максимальная длина последовательности 512 токенов; метаданные указывают родной контекст базовой модели в 40960 токенов. Модель работает с текстом и ориентирована прежде всего на английский язык. Для загрузки требуется включить trust_remote_code=True из-за собственной реализации архитектуры. По оценке автора, модель не проверялась на задачах для других языков. Распространяется по лицензии Apache-2.0.

api19750904/newspainclass — модель семейства RoBERTa, опубликованная в формате PyTorch и предназначенная для преобразования предложений и абзацев в плотные векторы размерностью 768. Её можно применять для поиска семантически близких текстов, кластеризации и оценки сходства предложений; README описывает обучение с CosineSimilarityLoss в рамках Sentence-Transformers. Модель принимает текст и выдаёт векторные представления. Метаданные указывают 151,8 млн параметров и контекст до 514 токенов. Карточка не сообщает, какие языки и тематические области охватывает модель, поэтому её языковую специализацию определить нельзя. Лицензия в предоставленных данных не указана.

sentence-transformers/nli-distilbert-base — модель семейства Sentence-Transformers на базе DistilBERT, обученная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения семантической близости, поиска и кластеризации. Модель принимает текст и выдаёт эмбеддинги; контекст ограничен 512 токенами. Доступны варианты весов в форматах PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Модель подходит для семантического поиска по текстам, группировки похожих фраз и вычисления сходства предложений. В README она помечена как устаревшая: качество эмбеддингов низкое, поэтому для новых проектов рекомендуется выбрать более современную модель sentence embeddings. Лицензия — Apache-2.0.

Xenova/nomic-embed-text-v1 — это версия модели эмбеддингов nomic-ai/nomic-embed-text-v1, подготовленная с ONNX-весами для совместимости с библиотекой Transformers.js. Репозиторий Xenova предназначен для запуска модели в JavaScript-окружении, включая веб-сценарии и другие среды, поддерживающие ONNX и Transformers.js. Модель предназначена для преобразования текста в числовые векторные представления с помощью задачи feature extraction. Такие эмбеддинги могут использоваться для семантического поиска, сопоставления текстов, кластеризации и других задач обработки естественного языка, где требуется сравнивать смысловое сходство текстовых фрагментов. README подтверждает поддержку текстового ввода, но не содержит сведений о точном размере модели или векторов, архитектуре, максимальной длине контекста, поддерживаемых языках и специальных модальностях. Ключевое преимущество этой версии — возможность использовать модель через Transformers.js и ONNX-веса, что упрощает интеграцию с JavaScript-приложениями. Ограничения и требования к качеству, производительности, языковому покрытию и аппаратному ускорению в README не указаны. Лицензия также не приведена, поэтому условия использования следует уточнять в исходном репозитории nomic-ai/nomic-embed-text-v1.

NVIDIA-Nemotron-3.5-Lightning-30B-A3B-GGUF — это квантизированная версия языковой модели NVIDIA-Nemotron-3.5-Lightning-30B-A3B, разработанной NVIDIA и автоматически преобразованной в формат GGUF проектом ggml-org. В качестве исходной модели указана NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16. Модель предназначена для генерации текста и может использоваться в приложениях, поддерживающих формат GGUF и совместимых с llama.cpp или аналогичными инструментами. Из доступных данных известны размер 30B и обозначение A3B, однако подробности архитектуры, число активных параметров, длина контекста, поддерживаемые языки и дополнительные модальности не указаны. Формат GGUF удобен для локального запуска и интеграции с соответствующим программным обеспечением, но конкретные требования к памяти, производительность и качество генерации зависят от варианта квантизации и оборудования. Лицензия обозначена как other, без дополнительных условий в представленном README. Поэтому перед использованием необходимо ознакомиться с лицензией исходной модели NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 и условиями распространения данной сборки.

NVIDIA Nemotron 3.5 Lightning 30B-A3B NVFP4 GGUF — это форматированный для GGUF и llama.cpp вариант модели NVIDIA Nemotron 3.5 Lightning 30B-A3B NVFP4. Это не переобучение, а побитно точная конвертация исходного контрольного пункта с сохранением NVFP4-весов экспертов; модель предназначена для генерации текста и локального запуска, особенно на GPU NVIDIA Blackwell с поддержкой FP4 tensor cores. Модель использует гибридную архитектуру Mamba-2, Mixture-of-Experts и attention: всего около 30 млрд параметров, из которых примерно 3 млрд активны для каждого токена. Она содержит 52 слоя, включая 6 слоёв с полноценным attention, 128 маршрутизируемых экспертов, из которых активны 6, и одного общего эксперта. Нативная длина контекста составляет 1 048 576 токенов; благодаря фиксированному состоянию Mamba-2 и MoE полный контекст заявлен как доступный на одной видеокарте с 24 ГБ памяти. Поддерживаются английский, испанский, французский, немецкий, итальянский и японский языки. Сильные стороны модели — очень длинный контекст, экономичное число активных параметров, сохранение исходных NVFP4-весов без повторного квантования и возможность использования дополнительной MTP-головы для speculative decoding. MTP-голова может повысить скорость примерно на 7% на быстрых GPU и на величину порядка десятков процентов на более медленном оборудовании, но требует дополнительной памяти и не улучшает качество вывода. Ограничения включают зависимость от совместимого оборудования и llama.cpp, а также потери запаса по контексту при использовании MTP-головы на GPU с 24 ГБ. В README приведены ориентировочные результаты: 79,2% на MMLU-Pro, 70,7% на IFBench и 26,7% на terminal-bench 2.0; авторы отмечают малые выборки и заметную вариативность результатов. Модель распространяется по лицензии OpenMDW License Agreement версии 1.1, унаследованной от базовой модели. Материалы модели принадлежат NVIDIA Corporation и аффилированным лицам; при использовании следует указывать NVIDIA как разработчика исходной модели и NVFP4-экспорта. Репакет не аффилирован с NVIDIA и не предоставляет прав на её товарные знаки.

NVIDIA-Nemotron-Labs-3-Elastic-12B-A2B-NVFP4 — квантованная версия на NVFP4 семейства эластичных языковых моделей NVIDIA Nemotron 3, представленная в карточке как 3-в-1 чекпойнт с вариантами 30B, 23B и 12B. В основе лежит NVIDIA-Nemotron-3-Nano-30B-A3B-BF16; архитектура родительской модели сочетает слои Mamba-2, Attention и Mixture-of-Experts. Метаданные указывают 946,5 млн параметров, а README описывает вложенный вариант 12B с 2,0 млрд активных параметров; эти сведения относятся к разным представлениям и не совпадают. Модель предназначена для генерации текста в диалоге и задач рассуждения. Эластичная структура позволяет извлекать варианты меньшего размера из общего набора весов; README описывает также квантизацию NVFP4 с дистилляцией с учителем и использование через Transformers и vLLM. Указан контекст 262 144 токена. Поддерживаются английский, немецкий, испанский, французский, итальянский и японский языки. README заявляет готовность к коммерческому использованию, но метаданные указывают лицензию «other», поэтому конкретные условия следует сверить с лицензией в репозитории. Карточка содержит несоответствия в названии и числе параметров: README описывает 30B A3B NVFP4 чекпойнт, тогда как идентификатор и метаданные относятся к 12B A2B NVFP4.

Occiglot-7B-ES-EN-Instruct — инструктивная языковая модель, разработанная Occiglot Research Collective. Это плотный причинный трансформер-декодер архитектуры Mistral с 7,1 млрд параметров, дообученный на 160 млн токенов многоязычных и программных инструкций. Модель предназначена для диалогов и генерации текста на английском и испанском языках; также обучалась на инструкциях по программированию. Поддерживает шаблон чата ChatML. В карточке указана длина контекста 32 768 токенов, а при обучении использовалась длина 8 192 токена. Модель представляет собой первый выпуск исследовательского проекта Occiglot. Авторы отмечают предварительный характер оценок, а испанские результаты частично опираются на машинно переведённые наборы данных и английские запросы. Модель не проходила выравнивание по безопасности и может выдавать проблемные ответы. Распространяется по лицензии Apache 2.0.