I.2Синтез, понимание и проверка знаний

Карточка модели unsloth/ModernBERT-base на Hugging Face совпадает с карточкой answerdotai/ModernBERT-base, поэтому описание составлено по ней. ModernBERT-base — двунаправленная encoder-only модель семейства Transformer в стиле BERT, разработанная в сотрудничестве Answer.AI, LightOn и их коллег. Она предварительно обучена на 2 триллионах токенов английских текстов и кода и предназначена для заполнения пропусков в тексте, а также как основа для прикладных задач понимания языка и поиска. Модель содержит 22 слоя и 149 млн параметров, поддерживает контекст до 8192 токенов. В архитектуре используются RoPE, чередование локального и глобального внимания, unpadding и Flash Attention для эффективной обработки длинных последовательностей. Она подходит для анализа длинных документов, классификации, семантического и кодового поиска после настройки под соответствующую задачу. Обучающие данные преимущественно англоязычные и включают код, поэтому качество для других языков может быть ниже. Обработка полного окна контекста может быть медленнее, чем коротких последовательностей; возможны смещения из обучающих данных. Лицензия — Apache-2.0.

flax-sentence-embeddings/multi-qa_v1-MiniLM-L6-cls_dot — модель SentenceTransformers для преобразования предложений и коротких текстов в векторы, пригодные для поиска и сравнения смысла. Её разработали в рамках Hugging Face Community Week для проекта по обучению моделей эмбеддингов; модель основана на предварительно обученной nreimers/MiniLM-L6-H384-uncased и дообучена контрастивным обучением на парах вопрос–ответ, включая данные StackExchange, MSMARCO и NQ. Это плотная BERT-модель с 25,9 млн параметров. Для представления предложения используется выход CLS, а близость векторов оценивается скалярным произведением. Модель предназначена для семантического поиска, оценки сходства предложений и кластеризации; её можно использовать для поиска подходящих ответов по запросу или группировки похожих вопросов. Максимальная длина контекста — 512 токенов. Модель выдаёт текстовые эмбеддинги, а не готовые ответы. Качество особенно ориентировано на сопоставление вопросов и ответов; доступные сведения не подтверждают поддержку русского языка или оценку качества на других языках и задачах. В карточке не указана лицензия.

MuXodious/Muse-Glimmer-30B-SOMPOA-heresy — дообученная версия мультимодальной Muse-Glimmer-30B, созданная автором репозитория с помощью движка Heretic и абляции SOMPOA. Это плотный трансформер для условной генерации, содержащий около 29,6 млрд параметров; принимает текст и изображения и предназначен для диалоговой работы с визуальными данными. Модель подходит для анализа изображений, документов, диаграмм и снимков экрана в диалоге, а также для многошаговых агентных задач и вызова инструментов. В README описаны результаты снижения числа отказов, однако автор отмечает, что модель всё ещё ссылается на свои правила и требует дальнейшей проверки и перенастройки; приведённые результаты не гарантируют надёжность в реальных сценариях. Языки и длина контекста этой версии отдельно не описаны. Модель распространяется по лицензии Apache 2.0. README предупреждает о возможных неточных, предвзятых или нежелательных ответах и рекомендует проводить собственную оценку безопасности для целевого применения. Аудиоввод и аудиовывод не поддерживаются.

Это экспериментальный внутренний чекпойнт r19 модели NVIDIA Nemotron 3 Nano 30B A3B, подготовленный разработчиком minjaechoi на основе nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16. В README указано, что средняя точность маршрутизируемых экспертов составляет 2,0217 бита, тогда как остальные веса имеют формат BF16; веса хранятся в BF16-тензорах после деквантизации и загружаются через стандартные Transformers и vLLM. Метаданные указывают архитектуру Nemotron H, задачу генерации текста, контекст до 262 144 токенов и интерфейс для вызова инструментов. Модель подходит для диалогов и генерации текста, включая сценарии с вызовом инструментов; описание базовой модели также относит семейство к рассуждениям, программированию и агентным приложениям. Метаданные базовой модели указывают поддержку шести языков, но сами языки в предоставленных данных не перечислены. Чекпойнт обозначен как внутренний исследовательский и не содержит отдельных сведений о качестве или ограничениях его низкой точности экспертов. Лицензия наследуется от базовой модели.

Sakalti/Neptuno-3B — объединённая автором модель генерации текста на архитектуре Qwen2, созданная с помощью mergekit методом TIES. В объединение вошли Sakalti/Light-3B и Spestly/Athena-1-3B, указанная в README как базовая модель; каталог также отмечает Sakalti/Light-3B как компонент слияния. Модель содержит 3,1 млрд параметров и принимает контекст длиной до 32 768 токенов. Модель предназначена для диалоговой генерации текста и интерфейсов вызова инструментов. Она распространяется в формате safetensors и использует библиотеку Transformers. Лицензия указана как other, поэтому условия использования следует сверить с карточкой модели и лицензиями компонентов слияния.

Neutrino-8B — диалоговая языковая модель на 8,19 млрд параметров, разработанная FermionResearch на основе Qwen/Qwen3-8B. Она предназначена для общения с пользователем, генерации текста, следования инструкциям, создания структурированного JSON и вызова инструментов; режим рассуждений отключён. Модель использует плотную архитектуру TrtcV4ForCausalLM с 36 слоями и шириной скрытого представления 4096. Линейные слои упакованы в пятизначное представление с разрядностью менее двух бит на вес, а таблицы эмбеддингов хранятся в int8. Репозиторий содержит GGUF-сборку; модель также запускается через Transformers, CPU, MLX и llama.cpp на поддерживаемых платформах. Модель унаследовала многоязычную токенизацию Qwen3-8B, но в карточке не перечислены конкретные поддерживаемые естественные языки. Контекстное окно в предоставленной информации не описано. Разработчик приводит результаты MMLU-Redux и IFEval и рекомендует параметры генерации отдельно для диалога, структурированного вывода и длинных текстов. Для корректной остановки нативного C-бинарника требуется задать EOS-токен; при генерации JSON рекомендуется отключать штраф за повторения. Лицензия — Apache-2.0.

orca_mini_phi-4 — дообученная автором pankajmathur на наборах SFT модель microsoft/phi-4 для генерации текста и диалогов. Она использует плотную архитектуру семейства Llama с классом LlamaForCausalLM, содержит 14,1 млрд параметров и рассчитана на контекст до 16 384 токенов. Модель предназначена для общего применения и дальнейшей настройки, включая full fine-tuning, DPO, PPO, ORPO и слияние с другими моделями. Репозиторий содержит веса PyTorch в формате Safetensors; для работы предусмотрена библиотека Transformers. Карточка описывает англоязычные данные обучения и предлагает запускать модель через Transformers или использовать отдельную GGUF-версию с Ollama. Базовая модель Phi-4 ориентирована на генерацию текста, диалоги, рассуждения, математику и программирование, однако отдельные показатели качества дообученной версии в карточке не приведены. Лицензия — MIT; автор просит указывать авторство и атрибуцию при использовании.

Orion-14B-Chat — диалоговая языковая модель компании OrionStarAI, дообученная для интерактивного общения на основе Orion-14B, обученной с нуля на многоязычном корпусе объёмом 2,5 трлн токенов. Модель имеет плотную архитектуру OrionForCausalLM и 14,1 млрд параметров; её основной сценарий — генерация ответов в диалоге, также заявлена поддержка задач с кодом. Модель рассчитана на общение на китайском, английском, японском и корейском языках. Длина контекста этой версии — 4096 токенов. В репозитории представлены форматы PyTorch и GGUF. Для развёртывания можно использовать Transformers, vLLM или llama.cpp. Карточка описывает её как модель, дообученную на высококачественном корпусе для интерактивного взаимодействия. Лицензия в предоставленных данных не указана, поэтому условия использования по ним установить нельзя.

PEG (Progressively Learned Textual Embedding) — модель текстовых эмбеддингов для поиска и сопоставления предложений, представленная разработчиками карточки. Она обучалась с прогрессивной настройкой вклада примеров в функцию потерь с учётом сложности негативных примеров, чтобы повысить устойчивость текстового поиска. Для обучения использована коллекция более чем из 110 миллионов примеров из разных областей, включая общие знания, финансы, туризм и медицину. Модель построена на архитектуре BERT, содержит 424,3 млн параметров и принимает текст с контекстом до 512 токенов; карточка указывает китайский язык. Она подходит для извлечения эмбеддингов предложений и оценки их сходства. Распространяется под лицензией Apache-2.0.

Phi-3-mini-4k-instruct-GGUF — это GGUF-квантизированная версия языковой модели Phi-3-mini-4k-instruct, разработанной Microsoft и квантизированной Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая задачи обработки естественного языка и программирования. В README указана поддержка английского языка и текстовая модальность. Модель имеет контекст до 4000 токенов и использует шаблон диалога phi-3-chat. Доступны варианты квантизации от Q2_K до Q8_0, а также f16, размером примерно от 1,42 до 7,64 ГБ. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с низкой потерей качества. Более компактные варианты требуют меньше памяти, но могут заметно терять в качестве; README также отмечает, что Q4_0 и Q5_0 являются устаревшими вариантами. Модель поддерживает запуск через LlamaEdge версии 0.12.2 и выше, включая работу в виде сервиса или командного приложения. Ограничения включают сравнительно небольшой контекст, поддержку только текста и заявленного английского языка, а также возможное снижение качества при низкой разрядности квантизации. Лицензия — MIT.

unsloth/Qwen3-4B-Base-bnb-4bit — 4-битная версия базовой языковой модели Qwen3-4B-Base, подготовленная Unsloth на основе модели Qwen/Qwen3-4B-Base. Это каузальная языковая модель на стадии предварительного обучения, предназначенная для генерации и продолжения текста, а также общих задач обработки естественного языка, программирования, STEM и рассуждений. README не уточняет особенности именно 4-битной упаковки и сценарии её применения. Модель содержит 4,0 млрд параметров, из которых 3,6 млрд приходятся на параметры без embedding, имеет 36 слоёв и использует Grouped-Query Attention с 32 головами для Q и 8 для KV. Максимальная длина контекста составляет 32 768 токенов. Семейство Qwen3 обучалось на 36 трлн токенов на 119 языках и включает данные для кодирования, STEM, рассуждений, книг, мультиязычных и синтетических задач, однако точные языковые возможности данной версии отдельно не приведены. К сильным сторонам относятся компактный размер, сниженные требования к памяти благодаря 4-битному представлению, длинный контекст и универсальная базовая направленность. Ограничения состоят в том, что это именно базовая, а не инструкционно настроенная модель: README не заявляет о специальной диалоговой настройке, конкретных результатах бенчмарков или требованиях к оборудованию. Для работы рекомендуется актуальная версия библиотеки transformers; версии ниже 4.51.0 могут вызывать ошибку KeyError: 'qwen3'. Модель распространяется по лицензии Apache-2.0.

Qwen3-4B-Instruct-2507-GPTQ-Int4 — квантизированная версия модели Qwen/Qwen3-4B-Instruct-2507, опубликованная под идентификатором superjob/Qwen3-4B-Instruct-2507-GPTQ-Int4. Она предназначена для генерации текста и работы в диалоговых и прикладных сценариях, где важны компактность модели и снижение требований к памяти. Заявлена поддержка 104 языков, включая русский и другие языки стран СНГ. Модель использует 4-битную GPTQ-квантизацию весов и 16-битные активации (W4A16), размер группы — 128, порядок активаций статический. Формат compressed-tensors обеспечивает нативную поддержку в vLLM и оптимизирован для запуска с этим движком. README не содержит данных о точном размере контекстного окна, числе параметров исходной архитектуры, поддерживаемых модальностях помимо текста или результатах тестирования, поэтому оценить качество и ограничения по бенчмаркам невозможно. Модель распространяется по лицензии Apache 2.0, как и исходная модель.

Qwen3.5-0.8B-FP8 — мультимодальная каузальная языковая модель семейства Qwen3.5 с визуальным энкодером. Репозиторий surogate содержит FP8-квантизированные веса и конфигурации постобученной версии, основанной на Qwen/Qwen3.5-0.8B-Base. Модель предназначена для работы с текстом и изображениями, включая рассуждения, программирование, визуальное понимание и агентские сценарии. Модель содержит 0,8 млрд параметров, 24 слоя и скрытое измерение 1024. В архитектуре сочетаются Gated Delta Networks, Gated Attention и разреженная Mixture-of-Experts; используется гибридная схема с 6 блоками, каждый из которых включает три последовательности Gated DeltaNet → FFN и один блок Gated Attention → FFN. Нативная длина контекста составляет 262 144 токена. Заявлена поддержка 201 языка и диалекта, однако конкретный перечень языков в README не приведён. Ключевое преимущество версии — снижение требований к памяти и вычислениям благодаря мелкозернистой FP8-квантизации с размером блока 128; заявлено, что показатели производительности почти идентичны исходной модели. Артефакты совместимы с Hugging Face Transformers, vLLM, SGLang и KTransformers. Ограничения включают небольшой размер модели по сравнению с более крупными системами и потенциальные потери качества, характерные для компактных моделей, а также отсутствие подробных сведений о визуальном энкодере и результатах большинства тестов в предоставленном фрагменте. Лицензия — Apache-2.0.

Qwen3.6-27B-Uncensored-HauhauCS-Aggressive-MTP — пользовательская версия модели, опубликованная AIOpsInSpace. Она основана на Qwen3.6-27B и HauhauCS/Qwen3.6-27B-Uncensored-HauhauCS-Aggressive и распространяется в формате GGUF. Модель предназначена для генерации текста, диалогов, задач рассуждения и сложных рабочих процессов, включая программирование. Заявлены плотная архитектура размером 27B параметров, англоязычная поддержка и режим Multi-Token Prediction (MTP) для speculative decoding, который может ускорять инференс при совместимом программном обеспечении. Модель позиционируется как aggressively uncensored, то есть с минимальными ограничениями на содержание ответов. К сильным сторонам относятся заявленные conversational и reasoning-возможности, ориентация на локальное развёртывание и потенциально повышенная скорость генерации благодаря MTP. Ограничения включают отсутствие в предоставленных данных сведений о размере контекстного окна, точных результатах бенчмарков, требованиях к оборудованию и полной совместимости бэкендов; эффективность speculative decoding зависит от используемой инфраструктуры. Указанная лицензия — Apache-2.0.

Qwen3.6-27B-uncensored-heretic-v2 — мультимодальная модель на 27 млрд параметров, созданная независимым автором на основе Qwen/Qwen3.6-27B методом abliteration. Модель предназначена для диалогов, работы с изображениями, программирования и агентных сценариев с вызовом инструментов; автор сообщает о снижении частоты отказов по сравнению с исходной моделью. Архитектура — плотная Qwen3.5 с языковой моделью и визуальным энкодером. Базовая модель поддерживает контекст 262 144 токена с возможностью расширения; в карточке указана работа с изображениями и чат-возможности. В README приведены результаты MMLU исходной модели, но сопоставимых результатов для этой версии нет. Модель распространяется в формате safetensors по лицензии Apache-2.0. Уменьшение числа отказов не гарантирует их полного отсутствия, а результаты тестирования базовой модели нельзя считать оценкой качества этой производной версии.

unsloth/Qwen3-8B-Base-unsloth-bnb-4bit — это 4-битная квантованная версия базовой причинной языковой модели Qwen3-8B-Base, подготовленная Unsloth на основе модели Qwen от команды Qwen. Модель предназначена для генерации и продолжения текста, языкового моделирования, программирования, STEM-задач, рассуждений и других сценариев, где требуется компактная локальная LLM. Поскольку это базовая предобученная модель, она не ориентирована специально на выполнение пользовательских инструкций или ведение диалога без дополнительной настройки. Модель содержит около 8,2 млрд параметров, из которых 6,95 млрд не относятся к embedding-слою, включает 36 слоёв и использует Grouped Query Attention с 32 головами запросов и 8 головами ключей и значений. Максимальная длина контекста составляет 32 768 токенов. Qwen3 обучалась на корпусе объёмом 36 трлн токенов, охватывающем 119 языков, с данными по программированию, STEM, рассуждениям, книгам, многоязычным и синтетическим материалам. Квантование уменьшает требования к памяти и упрощает локальный запуск, однако может сопровождаться потерей точности по сравнению с исходной полноразмерной версией. Для работы рекомендуется актуальная версия библиотеки transformers; версия ниже 4.51.0 не поддерживает архитектуру Qwen3. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-Flash-Next-DERISKED-MTPLX-Optimized-Speed — локальная модель генерации текста, разработанная на основе чекпойнта Blackfrost-AI/Qwen3.8-Flash-Next-DERISKED-BF16 и адаптированная для запуска через MTPLX на компьютерах Apple Silicon. Она предназначена для чата, генерации текста и кода, локального использования, а также контролируемых исследований безопасности и red-team-оценки. Модель не является безопасным production-чекпойнтом: её поведение и поверхность отказов были изменены на уровне весов для операторских исследований. Это квантованная версия архитектуры Qwen 3.8 Flash-Next с гибридной MoE-архитектурой GDN, Qwen Sparse Attention, памятью n-gram на 51 млрд параметров и встроенной головой multi-token prediction. Основная часть экспертов и плотных матриц представлена в 4-битном формате, отдельные компоненты внимания, маршрутизации, эмбеддинги и выходная голова — в 8-битном, а ряд рекуррентных и нормализующих параметров сохраняет 16-битную точность. Модель поддерживает текстовые и визуальные веса, имеет контекстное окно 262 144 токена, адаптивную глубину MTP до трёх токенов и требует около 115,3 ГБ для загрузки. Для работы рекомендуется Apple Silicon Mac с unified memory от 96 ГБ; таблица n-gram объёмом 32 ГБ по умолчанию размещается на SSD. Сильные стороны модели — оптимизация под Apple Silicon, сохранение повышенной точности в ключевых компонентах внимания и ускорение спекулятивной генерации: на M5 Max заявлены 66,2 токена в секунду против 46,6 токена в секунду в авторегрессионном режиме. Ограничения включают высокие требования к памяти и дисковому пространству, зависимость от MTPLX и отсутствие встроенной системы авторизации или полноценной границы безопасности. Рекомендуется использовать аутентифицированные точки доступа, отдельное журналирование запросов и инструментов, минимальные привилегии, песочницы и ручное подтверждение необратимых действий. Указана лицензия qwen-community-1.0 с типом license other; ссылка ведёт на файл LICENSE. Модель наследует статус и ограничения базового DERISKED-чекпойнта Blackfrost-AI.

RockTalk/Qwen3.8-Flash-Next-MLX-4bit — это 4-битная MLX-квантизованная версия экспериментальной модели Qwen3.8-Flash-Next, разработанной командой Qwen. Порт создан Rocktalk-Holdings для запуска на Apple Silicon; модель использует архитектуру qwen4_exp и предназначена для генерации текста, программного кода, структурированных ответов и агентских сценариев. Вариант с соответствующим мультимодальным окружением также поддерживает обработку изображений и видео, а сама модель — вызовы инструментов. Заявленный размер составляет около 180 млрд параметров: 125 млрд параметров MoE-трансформера, из которых активно около 6 млрд, 51,2 млрд параметров n-граммной embedding-таблицы и 4 млрд параметров MTP-головы для спекулятивного декодирования. Архитектура включает 512 экспертов, разреженное внимание QSA на 12 из 48 слоёв, Gated DeltaNet на 36 слоях и Hyper-connections. Основной заявленный язык — английский. Контекст модели в README не указан. Для MLX-версии применяется преимущественно 4-битная аффинная квантизация с размером группы 64, а отдельные компоненты используют 8-битное представление. Сильной стороной модели является эффективный запуск на компьютерах Apple Silicon: на M3 Ultra заявлена скорость около 26–35 токенов в секунду, а при использовании внешнего MTP-драфтера и gmlx — до 55–86 токенов в секунду в зависимости от типа содержимого. Спекулятивное декодирование сохраняет идентичность последовательностей с обычным жадным режимом в заявленных проверках. Ограничения включают очень высокие требования к памяти, зависимость от специализированного MLX/gmlx-стека и экспериментальный статус архитектуры; заявленная поддержка изображений, видео и инструментов относится к дополнительной конфигурации с отдельным vision projector и совместимым сервером. Лицензия указана как other, без дополнительных условий в README.

Qwen3-Embedding-0.6B-mlx-bf16 — текстовая модель эмбеддингов на базе Qwen3-Embedding-0.6B, преобразованная в формат MLX для запуска на устройствах Apple. В репозитории около 507,6 млн параметров; веса сохранены в исходной точности bfloat16 без дополнительной квантизации. Модель принимает текст и выдаёт векторные представления, подходящие для семантического поиска и сравнения сходства предложений. Конверсию выполнил chrisyuan с помощью mlx-embeddings. В README проверено сходство выходных эмбеддингов с исходной моделью PyTorch: косинусное сходство на небольшом наборе предложений составило 0,9998–0,9999, а относительное ранжирование пар предложений совпало. Контекст модели — до 32 768 токенов; базовая модель многоязычная, однако конкретный перечень поддерживаемых языков в предоставленных данных не приведён. Модель подходит для поиска по смыслу, сопоставления предложений и построения текстовых эмбеддингов в приложениях на MLX. Лицензия — Apache-2.0. Проверка в README охватывала небольшой набор тестовых предложений; точность bfloat16 может давать небольшие численные отличия от исходных весов.

coder3101/Qwen3-VL-32B-Thinking-heretic-v2 — дообученная версия Qwen3-VL-32B-Thinking от сообщества coder3101. Это плотная мультимодальная модель на архитектуре Qwen3-VL, опубликованная в формате safetensors и рассчитанная на диалог с текстом и изображениями; исходная модель также поддерживает видео и визуальные задачи рассуждения. Вариант heretic создан методом abliteration: по данным карточки, на тесте из 100 примеров он дал 3 отказа против 97 у исходной модели, а KL-дивергенция составила 0,0048. Это указывает на существенно сниженное число отказов, но не гарантирует отсутствие отказов или безопасное поведение во всех сценариях. Возможности и заявленные характеристики базовой модели включают визуальные вопросы и ответы, OCR, понимание видео, пространственное рассуждение и задачи с длинным контекстом. Модель подходит для анализа изображений и видео, чтения текста на изображениях и диалоговых задач с визуальным контекстом. В README указаны для базовой модели контекст 256 тыс. токенов с возможностью расширения до 1 млн и поддержка OCR на 32 языках; эти сведения относятся к базовой модели, а отдельное подтверждение таких пределов для данной производной версии не приведено. Лицензия — Apache-2.0.

viaqlo/Qwen3-VL-4B-Instruct-ara — производная мультимодальная модель на основе Qwen/Qwen3-VL-4B-Instruct, созданная методом abliteration. Она предназначена для диалогов с изображениями и видео, визуального рассуждения, распознавания текста на изображениях и обычных текстовых запросов. Модель сохраняет архитектуру Qwen3-VL плотного типа с 4 млрд параметров; базовая модель заявляет контекст до 256 тыс. токенов с возможностью расширения до 1 млн и поддержку OCR на 32 языках. В карточке приведено сравнение с исходной моделью: доля отказов снизилась с 97 из 100 до 4 из 100, а KL divergence составляет 0,0265. Это указывает на ослабление отказного поведения и может означать меньшую осторожность при ответах. Модель распространяется в формате safetensors через Transformers по лицензии Apache-2.0.

tomaarsen выпустил англоязычный CrossEncoder на базе answerdotai/ModernBERT-base, дообученный библиотекой sentence-transformers на парах запрос–ответ с бинарными метками релевантности. Модель содержит 149 млн параметров и обрабатывает последовательности длиной до 8192 токенов; для каждой пары текстов она выдаёт оценку, пригодную для ранжирования и оценки сходства. Модель предназначена прежде всего для повторного ранжирования результатов поиска и семантического поиска, а также может использоваться для оценки сходства текстов, поиска перефразировок, классификации и кластеризации. В README приведены результаты оценки на NanoMSMARCO, NanoNFCorpus, NanoNQ и NanoBEIR. Для применения подходят сценарии, где нужно оценивать пару «запрос — документ» или сравнивать два текста. Это текстовая encoder-модель, а не генератор ответов: она оценивает пары входных текстов. Обучающие данные в карточке описаны как набор из 19,99 млн пар query/answer с бинарными метками. Условия лицензии в предоставленных данных не указаны.

RWKV/RWKV7-13.3B-20260805 — официальная базовая языковая модель RWKV-7 Goose от BlinkDL в формате Transformers. Это плотная авторегрессионная модель с архитектурой RWKV7 без механизма внимания: она поддерживает обучение с параллельной обработкой и генерирует текст с постоянным размером рекуррентного состояния и постоянной вычислительной работой на токен. В метаданных указано 14,6 млрд параметров; в README размер обозначен как 13,3 млрд. Модель предварительно обучена на веб-текстах, коде, синтетических данных, инструкциях, диалогах и рассуждениях. Она предназначена для оценки, последующего обучения и дообучения, а также для генерации текста и экспериментов с диалоговыми сценариями. Шаблон чата поддерживает системные сообщения, многоходовые диалоги, режим рассуждений и запросы на вызов инструментов, но сам по себе не означает, что модель безопасно настроена как ассистент. Поддерживаются английский, китайский, французский, испанский, немецкий, португальский, русский, итальянский, японский, корейский, вьетнамский и арабский языки. Постоянный размер состояния позволяет не наращивать KV-кэш внимания при генерации. Ограничения включают зависимость качества следования инструкциям и языкового поведения от промптинга и последующего обучения; спекулятивное декодирование с откатом рекуррентного кэша требует сохранения предыдущих состояний. Оптимизированное исполнение зависит от GPU, типа данных и формы входа, а полноценный режим TileLang требует отдельной проверки численной совместимости. README не заявляет оценки безопасности, предвзятости, токсичности или фактической точности. Модель распространяется по лицензии Apache-2.0.

RWKV-7-G1k-13.3B-20260930 — официальная базовая языковая модель BlinkDL на архитектуре RWKV-7 Goose, предназначенная для генерации текста, оценки, последующего обучения и дообучения. В метаданных указано 14,6 млрд параметров; модель опубликована в формате Transformers с весами Safetensors и шаблоном для диалоговых промптов. RWKV-7 — рекуррентная архитектура без механизма внимания: её состояние имеет постоянный размер, а вычислительная работа на токен не растёт с длиной сгенерированной последовательности. Модель обучалась на веб-текстах, коде, синтетических данных, инструкциях, диалогах и материалах для рассуждений. Заявлена поддержка английского, китайского, французского, испанского, немецкого, португальского, русского, итальянского, японского, корейского, вьетнамского и арабского языков. Это базовая, а не выровненная по безопасности ассистентская модель: качество следования инструкциям и поведение зависят от промпта и последующего обучения. Указаны ограничения для спекулятивного декодирования с откатом рекуррентного кэша; ускоренный запуск зависит от GPU, типа данных и размеров входа. Модель распространяется по лицензии Apache-2.0.

RWKV-7 World — базовая авторегрессионная языковая модель семейства RWKV от BlinkDL, предназначенная для генерации текста и использования в качестве основы для дообучения. Модель обучалась на корпусе примерно из 3,1 трлн токенов для версии World-v3; в обучающих данных преобладает английский язык, также представлены другие языки и программный код. В README указаны варианты семейства от 0,1B до примерно 7B параметров, но размер именно этой публикации не уточнён. Модель рассчитана на продолжение текста, диалоговые и вопросно-ответные сценарии при использовании рекомендованных шаблонов запросов. Архитектура RWKV-7 поддерживается пакетом rwkv версии 0.8.28 и выше. Карточка сообщает о обучении более чем на 100 языках; метаданные перечисляют 12 языков, включая русский, китайский, английский, французский, испанский, немецкий, португальский, итальянский, японский, корейский, вьетнамский и арабский. В README приведены результаты MMLU для нескольких вариантов RWKV-7-v3 и сравнение с RWKV-6, но эти оценки не являются характеристиками конкретного файла модели. Это базовая модель, а не специализированный чат-чекпойнт; качество ответов и следование инструкциям могут зависеть от шаблона и дополнительного дообучения. Лицензия — Apache-2.0.

pushpdeep/sbertmsmarco-en_to_indic_ur-murilv1 — модель на базе BERT, предназначенная для преобразования предложений и абзацев в плотные векторные представления размерности 768. Она подходит для семантического поиска, сравнения сходства текстов и кластеризации. В репозитории указано обучение с MSELoss; модель доступна в формате PyTorch и опубликована под именем Sentence-Transformers. Модель принимает текст и выдаёт эмбеддинги. Контекст ограничен 512 токенами. По названию репозитория она связана с MS MARCO и индийскими языками, включая урду; точный перечень поддерживаемых языков и базовая модель в предоставленных данных не подтверждены. Лицензия в источниках не указана.

Muennighoff/SGPT-125M-weightedmean-nli-bitfit — модель Sentence Transformers на архитектуре GPT-Neo, предназначенная для получения векторных представлений предложений и сравнения их семантического сходства. Она содержит 137,7 млн параметров, принимает текст, выдаёт эмбеддинги и поддерживает контекст до 2048 токенов. Модель обучена с помощью MultipleNegativesRankingLoss с косинусной мерой сходства на данных без повторов в батчах. Её можно применять для поиска семантически близких предложений, сопоставления запросов с текстами и ранжирования кандидатов по смысловой близости. README ссылается на код проекта и публикацию для инструкций и результатов оценки, но не приводит их непосредственно. В метаданных указана лицензия? Нет сведений о лицензии в доступных данных.

LazarusNLP/simcse-indobert-base — модель векторных представлений предложений на базе BERT, опубликованная LazarusNLP. Она преобразует предложения и абзацы в плотные векторы размерностью 768, предназначенные для сравнения семантической близости. Модель содержит 151,6 млн параметров и принимает текст длиной до 512 токенов. Модель обучена с использованием Sentence-Transformers и функции потерь MultipleNegativesRankingLoss с косинусным сходством. Её можно применять для семантического поиска, кластеризации и вычисления сходства предложений на индонезийском языке. Доступны веса PyTorch и Safetensors; лицензия в предоставленных данных не указана.

Tiiny/SmallThinker-4BA0.6B-Instruct-GGUF — GGUF-квантизированная версия SmallThinker-4BA0.6B-Instruct, семейства нативных для устройств языковых моделей с архитектурой Mixture-of-Experts. Модель разработана совместно IPADS и School of AI Шанхайского университета Цзяотун при участии Zenergize AI и предназначена для локального запуска на устройствах с ограниченными ресурсами, обеспечивая приватность и низкую задержку без обращения к облачным сервисам. Модель рассчитана на генерацию текста и работу в инструкционном режиме: ответы на вопросы, рассуждения, решение математических задач, следование инструкциям и генерацию кода. Она обучалась преимущественно на английском языке, поэтому качество для других языков не заявлено. Контекстное окно составляет 32K токенов. Архитектура включает 4B общих параметров и 0,6B активируемых параметров, 32 слоя, 12 attention heads, механизм GQA, активацию ReGLU, 32 эксперта MoE и выбор 4 экспертов на токен. К сильным сторонам относятся высокая эффективность для компактной модели, возможность локального развертывания, поддержка llama.cpp для обычных GGUF-файлов и PowerInfer для файлов с суффиксом .powerinfer.gguf, использующих разреженные операторы. Ограничения включают преимущественно англоязычное обучение, возможные фактические ошибки, предвзятость и устаревание ответов, а также зависимость специальных .powerinfer.gguf-файлов от фреймворка PowerInfer. Модель распространяется по лицензии Apache-2.0.

Это модель Sentence Transformers на базе XLM-RoBERTa, дообученная из lighteternal/stsb-xlm-r-greek-transfer командой IoannisKat1. Она преобразует текстовые предложения и абзацы в плотные векторы размерностью 768 для семантического поиска, извлечения информации и сопоставления текстов; сходство оценивается косинусной мерой. Модель поддерживает усечение вектора до меньших размерностей, что позволяет выбирать компромисс между размером представления и качеством поиска. Обучение выполнено на 4 268 парах текстов с функцией MatryoshkaLoss и MultipleNegativesRankingLoss. В примерах обучающих данных есть греческие вопросы и ответы, а карточка указывает английский как язык модели; базовая модель предназначена для английского и греческого. Максимальная длина последовательности в README — 400 токенов, а метаданные указывают контекст до 514 токенов. Модель принимает и выдаёт текстовые представления в виде векторов. Лицензия — Apache-2.0.