I.12Рекомендации и персонализация

Это англоязычный разреженный энкодер SPLADE, разработанный на базе Luyu/co-condenser-marco с помощью библиотеки Sentence Transformers. Модель дообучена на MS MARCO hard negatives с оценками cross-encoder и предназначена для семантического поиска и разреженного извлечения документов. Архитектура включает BERT MLM-трансформер и SPLADE pooling с max-пулингом и ReLU. Модель содержит 136,7 млн параметров, принимает текстовые последовательности длиной до 256 токенов по карточке модели (метаданные указывают контекст до 512 токенов) и отображает их в разреженные векторы размерности 30 522, которые сравниваются скалярным произведением. В README приведены оценки на наборах NanoBEIR и отдельных задачах поиска. Лицензия — Apache-2.0. Модель ориентирована на английский язык; качество за пределами описанных поисковых наборов и пригодность для других языков в источниках не подтверждены.

Это производная версия google/t5gemma-2-270m-270m, подготовленная PhatcatDK: из мультимодальной модели T5Gemma 2 на базе Gemma 3 выделен только энкодер вместе с компонентами обработки изображений. Репозиторий содержит веса в формате safetensors; для загрузки в README указан класс T5Gemma2Model и библиотека Transformers. Модель предназначена для извлечения признаков из входных данных. Удаление декодера уменьшает потребление видеопамяти примерно на 13% по сравнению с исходной seq2seq-моделью. Лицензия — Gemma Terms of Use. Данные не сообщают длину контекста и конкретный перечень поддерживаемых языков.

utahnlp/tevatron-elastic-bert-retriever-plain — плотный текстовый ретривер на базе google-bert/bert-base-uncased, обученный с помощью Tevatron-Elastic. Модель преобразует запросы и фрагменты документов в признаки для поиска; при обучении использовались префиксы query: и passage:, а максимальная длина последовательности составляет 512 токенов. Число параметров — 136,7 млн. Это базовая полноразмерная точка из семейства эластичных чекпойнтов, предназначенного для выбора рабочих точек по осям глубины, ширины и сжатия токенов. В README указана метрика BEIR-15 nDCG@10 0,461 для полноразмерной конфигурации. Модель выпущена как ресурс для воспроизводимости результатов статьи Tevatron-Elastic, а не как заявление о превосходстве над современными системами. Для работы требуется framework Tevatron-Elastic; репозиторий распространяет веса в формате safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Модель унаследовала англоязычную основу BERT и обучалась на данных rlhn/rlhn-680K; заявленная длина контекста — 512 токенов.

utahnlp/tevatron-elastic-modernbert-retriever-depth — модель извлечения признаков и поиска, разработанная Utah NLP и обученная с помощью Tevatron-Elastic на базе answerdotai/ModernBERT-base. Она кодирует запросы и фрагменты документов с префиксами query: и passage: в векторы для поиска релевантных материалов. Контрольная точка поддерживает эластичное сокращение глубины: один набор весов позволяет выбирать число слоёв при кодировании, задавая компромисс между вычислительными затратами и качеством. Модель содержит 149 млн параметров, принимает текст, поддерживает контекст до 8192 токенов и распространяется в формате Safetensors. Модель предназначена для информационного поиска и воспроизводимых экспериментов с вариантами глубины кодировщика. На полной конфигурации авторы сообщают результат nDCG@10 0,456 на BEIR-15; это не заявка на превосходство над современными системами. Обучение проводилось на rlhn/rlhn-680K с максимальной длиной 512 токенов. Лицензия — Apache-2.0. Базовая архитектура ModernBERT ориентирована на английский язык, поэтому README не подтверждает качество поиска на других языках.

Tevatron-Elastic Qwen3 0.6B Retriever 2D — модель извлечения текстовых представлений для информационного поиска, разработанная как часть набора контрольных точек к работе Tevatron-Elastic. Она дообучена на базе Qwen/Qwen3-0.6B-Base и поддерживает эластичное сжатие по глубине и ширине: с помощью Tevatron-Elastic можно выбирать рабочую точку через prune_to и encode_at. Модель принимает текстовые запросы и фрагменты документов с префиксами query: и passage: и кодирует их для поиска; максимальная длина последовательности при обучении составляла 512 токенов, а контекст модели — 32768 токенов. На полном режиме в BEIR-15 указано значение nDCG@10 0,521. Релиз предназначен прежде всего для воспроизводимости экспериментов и не заявлен как достижение передового качества. Параметры доступны в формате safetensors; лицензия — Apache-2.0.

belfner/vit_giant_patch16_lingbot.robbyant — преобразованная версия энкодера изображений LingBot-Vision ViT-Giant/16, опубликованная авторами исходной модели. Модель содержит около 1,13 млрд параметров и предназначена для извлечения признаков и эмбеддингов изображений. Она использует патчи размером 16 пикселей, CLS-токен, четыре register-токена и патч-токены; стандартная конфигурация усредняет признаки патчей. Указанный размер изображения — 512 × 512. Энкодер предварительно обучен методом masked boundary modeling на курируемом веб-корпусе из 161 млн изображений. Веса преобразованы для реализации Eva/DINOv3 в timm; автор README сообщает о точном совпадении выходов fp32 с эталонной реализацией для проверенных размеров изображений. Модель подходит для получения визуальных признаков, карт признаков и эмбеддингов, в том числе как основы для классификации и задач плотного пространственного восприятия. Репозиторий распространяется по лицензии Apache 2.0; запись архитектуры в timm на момент создания карточки ожидала включения в библиотеку.

timm/ViT-gopt-16-SigLIP2-256 — контрастивная модель зрения и языка семейства SigLIP 2, обученная на наборе WebLI и преобразованная из исходных контрольных точек JAX Big Vision для использования с OpenCLIP. Она предназначена для классификации изображений по текстовым описаниям без дообучения: пользователь задаёт варианты классов или описания, а модель сопоставляет их с изображением. Модель использует архитектуру SigLIP 2 с визуальным энкодером ViT и рассчитана на задачи zero-shot классификации изображений. Метаданные указывают библиотеку OpenCLIP, форматы PyTorch и safetensors и лицензию Apache-2.0. Информация о размере, длине контекста и конкретных поддерживаемых языках в доступных источниках отсутствует.

timm/ViT-gopt-16-SigLIP2-384 — модель компьютерного зрения и языка из семейства SigLIP 2, обученная на наборе WebLI. Это контрастивный энкодер изображений и текста, предназначенный для классификации изображений по текстовым описаниям без дообучения. Модель преобразована из исходных контрольных точек JAX проекта Big Vision для использования в библиотеке OpenCLIP. Модель подходит для сопоставления изображения с набором текстовых меток и выбора наиболее подходящей, а также для мультиязычных сценариев понимания связи между изображениями и текстом. В репозитории доступны веса PyTorch и Safetensors. Лицензия — Apache-2.0. Размер модели, поддерживаемые языки и ограничения качества в предоставленных данных не описаны.

timm/vit_huge_patch14_clip_378.metaclip2_worldwide — модель семейства CLIP с визуальным энкодером ViT-H/14 и размером входного изображения 378 пикселей. Она доступна для использования через open_clip и timm и предназначена для классификации изображений по текстовым описаниям без дообучения: модель сопоставляет изображение с кандидатными метками, заданными текстом. Вариант весов называется ViT-H-14-worldwide-378 с pretrained_tag metaclip2_worldwide и связан с MetaCLIP2. Модель принимает изображения и текстовые метки, а выдаёт оценки сходства для выбора подходящей метки. Репозиторий содержит веса PyTorch в формате safetensors; лицензия CC BY-NC 4.0 ограничивает коммерческое использование. Сведения о языках и контексте в карточке отсутствуют, поэтому языковую поддержку не уточняю.

facebook/webssl-dino2b-full2b-224 — визуальный энкодер Meta на архитектуре DINOv2: ViT шириной 2688, глубиной 24 слоя и с 21 головой внимания, содержащий 2,8 млрд параметров по метаданным. Модель обучена методом самообучения на 2 млрд веб-изображений из данных MetaCLIP без языковой супервизии; входное разрешение — 224×224 пикселя. Модель предназначена для извлечения визуальных признаков и построения представлений изображений для задач компьютерного зрения. README сообщает о результатах на стандартных визуальных бенчмарках, а также о возможностях в мультимодальных задачах, включая визуальные вопросы и распознавание текста и диаграмм; основная задача в метаданных — image-feature-extraction. Это исследовательская модель, представленная в 2025 году в работе «Scaling Language-Free Visual Representation Learning». Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

ACE-Step Captioner — модель для подробного описания музыкального аудио, используемая ACE-Step v1.5 для аннотирования обучающих данных. Она построена на архитектуре Qwen2.5 Omni и принимает аудио, формируя текстовые описания музыки. Модель анализирует жанры и стилистические влияния, распознаёт инструменты, описывает структуру произведения и её развитие, тембр, текстуру, пространственные характеристики и динамику. Её можно применять для разметки музыки при подготовке данных для генеративных моделей, создания поисковых метаданных аудиокаталогов, музыкального анализа и документирования звукового дизайна. В карточке заявлено качество выше Gemini Pro 2.5 в задачах описания музыки; независимая проверка этого сравнения не представлена. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия — MIT. Размер модели и ограничение контекста в предоставленных данных не приведены.

AIMv2 Large Patch14 448 — модель компьютерного зрения семейства AIMv2, разработанная Apple и предварительно обученная с мультимодальной авторегрессионной целью. Репозиторий содержит вариант с архитектурой Aimv2VisionModel и 308,3 млн параметров; модель принимает изображения и выдаёт визуальные признаки для последующего анализа или использования в других системах. Модель предназначена для извлечения признаков изображений и задач визуального понимания. В публикации семейства AIMv2 сообщается о результатах выше CLIP и SigLIP на большинстве тестов мультимодального понимания, а также выше DINOv2 в обнаружении объектов с открытым словарём и понимании выражений, указывающих на объекты. Для этого варианта README показывает загрузку через Transformers с Flax/JAX и PyTorch. Модель распространяется по лицензии Apple AMLR. Указанные результаты относятся к семейству AIMv2 и не гарантируют аналогичное качество именно этого размера модели; в карточке также не приведены подробности о контекстном размере или поддерживаемых естественных языках.

bekko-embedding-v1-a8m-pt — предварительно обученная плотная модель эмбеддингов от hotchpotch на архитектуре mmBERT в стиле ModernBERT: 4 слоя и размер скрытого представления 384. Она основана на hotchpotch/mmBERT-L4H384-pruned, использует многоязычные текстовые пары, обучение Matryoshka и обучение с учётом квантования; контекст — до 8192 токенов, размер — 106 млн параметров. Модель предназначена как отправная точка для дополнительного обучения под конкретную задачу: поиск по сходству, классификацию, ранжирование или другой прикладной сценарий, а также для воспроизведения и адаптации конвейера обучения bekko. Она не прошла финальную supervised-настройку для поиска и не предназначена для непосредственного использования как универсальная модель эмбеддингов или поиска. Лицензия — MIT.

sentence-transformers/bert-base-nli-max-tokens — модель Sentence-Transformers, обученная командой Sentence-Transformers на основе BERT. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для сравнения текстов, семантического поиска и кластеризации. Модель использует архитектуру BERT и принимает текстовые последовательности длиной до 512 токенов. Её можно применять через библиотеку Sentence-Transformers или Transformers с соответствующей операцией pooling. Репозиторий содержит веса в форматах PyTorch, TensorFlow, Flax, ONNX и OpenVINO. Модель устарела: авторы предупреждают, что она создаёт эмбеддинги низкого качества, и рекомендуют выбрать более современную модель для векторного поиска или сравнения предложений. Лицензия — Apache-2.0.

lyeonii/bert-tiny — компактная англоязычная модель BERT, основанная на BERT-Tiny из семейства облегчённых моделей, выпущенных Google Research. В репозитории размещена конверсия исходных чекпойнтов TensorFlow в PyTorch; модель содержит 4,4 млн параметров и рассчитана на входную последовательность длиной до 512 токенов. Модель предназначена для извлечения признаков и построения текстовых представлений на английском языке. Её можно использовать как компактную основу для получения эмбеддингов или дальнейшей настройки под задачи обработки текста. По оценке на MRPC в карточке приведены F1 81,22 и accuracy 68,38 для варианта BERT-Tiny. Это uncased-модель: регистр букв не различается. Она поддерживает только английский язык, а её компактность сопровождается более скромными показателями на MRPC по сравнению с более крупными вариантами семейства. Лицензия — MIT.

DatologyAI CLIP Classification Optimized ViT-B/32 — контрастивная модель «изображение—текст», разработанная DatologyAI на стандартной архитектуре CLIP без изменений в архитектуре и процедуре обучения. Модель использует визуальный энкодер ViT-B/32 с 86 млн параметров и текстовый трансформер из 12 слоёв; размер изображения — 224×224 пикселя, размер эмбеддинга — 512, контекст текстового энкодера — 77 токенов. Модель предназначена для классификации изображений по текстовым описаниям без дополнительного обучения, а также для извлечения признаков изображений и использования в качестве визуального энкодера для VLM. Для обучения использовали курируемые DatologyAI данные DataComp-XL: README сообщает о 13 млрд пар «изображение—текст». В карточке заявлены точность 76,91% на ImageNet1k и улучшенная эффективность обучения; это результаты авторов, а не независимая оценка. Модель выпущена в форматах PyTorch и safetensors под лицензией Apache 2.0.

CompassJudger-2-7B-Instruct — языковая модель-судья из серии CompassJudger-2, дообученная разработчиками OpenCompass на Qwen2.5-7B-Instruct. Модель предназначена для оценки ответов и сравнения их качества, в том числе в попарных сценариях. В README описаны обучение на данных из разных задач и областей, применение проверяемых наград, chain-of-thought и rejection sampling; заявлена оценка на нескольких бенчмарках для моделей-судей и reward-моделей. Модель имеет плотную архитектуру Qwen2, около 7,1 млрд параметров и контекст до 32 768 токенов. Она принимает текст и выдаёт текстовые оценки или суждения; в метаданных также отмечен интерфейс tool calling. README не перечисляет поддерживаемые естественные языки. Репозиторий использует safetensors, библиотеку Transformers и лицензию Apache-2.0. Утверждения README о превосходстве по бенчмаркам не сопровождаются в предоставленной карточке полными результатами и методологией; качество оценок может зависеть от задачи и домена.

facebook/dinov2-small — небольшая модель Vision Transformer, обученная командой DINOv2 методом самообучения на большом наборе изображений. Это энкодер изображений с архитектурой ViT и примерно 28,3 млн параметров; специализированных дообученных классификационных голов в модели нет. Модель предназначена для извлечения визуальных признаков и получения представления изображения для последующих задач. Эти признаки можно использовать, например, как вход для отдельного классификатора, обученного на размеченных изображениях. Модель принимает изображения и выдаёт векторные представления; для работы предусмотрены PyTorch и safetensors. Модель опубликована под лицензией Apache-2.0. Она не решает конкретную задачу классификации без дополнительной обученной головы, а качество на прикладных задачах зависит от последующего классификатора и данных.

zeromodels публикует конверсию DINOv3 ConvNeXt-Tiny в формате Keras 3 — самообучаемую визуальную основу, преобразующую изображения в признаки для последующих задач компьютерного зрения. Модель не содержит специализированной головы для конкретной задачи; полученные признаки можно использовать с отдельными классификаторами и другими downstream-компонентами. Репозиторий заявляет совместимость одной реализации с TensorFlow, Torch и JAX. Для обработки изображения предусмотрен процессор с нормализацией. Модель основана на facebook/dinov3-convnext-tiny-pretrain-lvd1689m; исходные веса Meta распространяются по лицензии DINOv3, указанной в Hub как other. README отсылает к лицензии DINOv3 для условий использования.

hotchpotch разработала японский reranker серии CrossEncoder. Модель оценивает пары «запрос — документ» совместно и присваивает им оценки релевантности, чтобы сортировать результаты поиска и уточнять ранжирование кандидатов. В README приведены результаты оценки на японских наборах данных, включая JQaRA, JaCWIR, MIRACL и JSQuAD. Модель построена на архитектуре BERT с классификационной головой и обучена для японского языка. Она принимает текст, выдаёт оценки релевантности и имеет контекст длиной до 512 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Sentence Transformers. Лицензия — MIT.

jev-control-core — компактная текстовая модель для выбора решений в отдельных узлах агентных систем, разработанная open-spark-Jev. Она предназначена для маршрутизации инструментов, проверки достаточности ответа и релевантности контекста, фильтрации инъекций и модерации, проверки утверждений, выбора следующего действия, сопоставления сущностей и передачи сложных случаев человеку. Модель представляет собой плотный текстовый декодер Qwen3_5ForCausalLM размером 581,4 млн параметров, полученный полным дообучением Qwen/Qwen3.5-0.8B-Base. Вопрос и состояние агента кодируются в одном запросе с перечнем допустимых вариантов; модель оценивает варианты за один проход без генерации ответа и ограничивает результат заданным списком. Заявленная длина контекста — 262 144 токена. Поддерживается английский язык. Репозиторий содержит веса Safetensors и GGUF F16; лицензия — Apache-2.0. Модель ориентирована на короткие структурированные решения внутри агентного цикла и выдаёт наилучший вариант или оценку среди заданных опций. В README сообщается о результате 0,837 на реальном тестовом контуре, но модель не оценивалась на JevBench и уступает указанной базовой системе в задачах достаточности ответа и релевантности; возможен перенос синтетического словаря, поэтому калибровку уверенности рекомендуется подстраивать на размеченном трафике. Также у модели не было этапа обучения с подкреплением.

MemReader-4B-thinking — языковая модель IAAR-Shanghai для управления долговременной памятью агентов, созданная на базе Qwen/Qwen3-4B и дообученная с помощью supervised fine-tuning и GRPO. Это плотная авторегрессионная модель семейства Qwen3 с 3,7 млрд параметров и контекстом 40 960 токенов. Модель анализирует поступившую информацию и выбирает действие: добавить её в память, найти исторические сведения для уточнения, временно сохранить неполные данные или проигнорировать малозначимый и повторяющийся текст. Она предназначена для извлечения и обновления памяти в долгих диалогах, персональных помощниках и агентных системах; поддерживает сценарии с вызовом инструментов. Модель ориентирована на английский и китайский языки. В README описаны результаты оценивания на LOCOMO, LongMemEval и HaluMem, включая задачи разрешения неоднозначности, обновления знаний и временных рассуждений. Модель оптимизирована для управления памятью, а не для универсального диалога; качество зависит от схемы памяти, поиска и исполнения инструментов, а ответы могут содержать ошибки или пропуски. Распространяется по лицензии Apache-2.0.

MobileCLIP2-S3 — компактная мультимодальная модель семейства MobileCLIP2, разработанного Apple. Репозиторий timm содержит адаптированные веса оригинальной модели с конфигурациями и именами весов OpenCLIP; опубликованный вариант предназначен для классификации изображений без дообучения по текстовым описаниям классов. Модель сопоставляет изображения и текст в общем пространстве представлений, что позволяет задавать категории естественным языком и выбирать наиболее подходящую для изображения. Семейство MobileCLIP2 разработано для эффективного визуально-текстового сопоставления и ориентировано на высокую скорость, в том числе на мобильных устройствах. В карточке приведены сравнительные результаты для других вариантов семейства, но отдельные показатели MobileCLIP2-S3 не указаны. Веса доступны в форматах PyTorch и safetensors, модель подключается через библиотеку OpenCLIP. Лицензия — Apple AMLR; перед использованием следует учитывать её условия.

kiddom/modernbert-readability-grade-predictor — англоязычная модель ModernBERT-base, дообученная Kiddom для регрессионной оценки читательской сложности текста. Она предсказывает уровень чтения по шкале американских классов от 0 до 12 и выше: от дошкольного уровня до колледжа. Модель содержит 149 млн параметров, принимает текст и поддерживает контекст до 8192 токенов; обучена на данных CLEAR и текстах с оценками Lexile и Flesch–Kincaid. Модель предназначена для оценки сложности учебных материалов и подбора текстов под нужный уровень чтения. В README приведены RMSE 1,41 и R² 0,81. Модель распространяется по лицензии MIT. Оценки могут быть менее точными для специализированных и технических материалов, а тексты короче 10 слов могут давать ненадёжный результат. Модель обучена только на английском языке и откалибрована для системы образования США.

NeoHorse-Jev-4B — модель структурированных решений с 4 млрд параметров от TokenRhythm, дообученная на базе NeoHorse-1-4B. Она принимает текстовое состояние и заданные приложением вопросы или варианты ответа и оценивает решения для маршрутизации запросов, выбора инструментов, проверки условий и оценки результатов. Вместо авторегрессивной генерации текста используется инференс только на этапе prefill; модель поддерживает типы решений Choice, Noul и Score и выдаёт вероятности по вариантам, ответы на вопросы да/нет или ожидаемые оценки. Для запросов с изображением можно передать одно изображение вместе с текстом. В README сообщается о среднем результате точности 83,26% на Nimble, VitaminC и MASSIVE, на 11,50 процентного пункта выше базовой модели, а также о результатах в игровых сценариях. Эти показатели относятся к описанным конфигурациям и не гарантируют точность в конкретном приложении. Вероятности могут быть плохо откалиброваны; на результат влияют недостаток свидетельств, формулировки и порядок вариантов, а также сдвиг домена. Не приведены комплексные оценки для многоязычных и длинных входов, задержки, затрат и требований к памяти. Модель распространяется под лицензией Apache-2.0.

sdadas/polish-reranker-roberta-v2 — польский реранкер, разработанный автором репозитория на основе sdadas/polish-roberta-large-v2. Это плотная модель RoBERTa с классификационной головой, обученная на парах текстов с функцией потерь RankNet и дистиллированная по предсказаниям BAAI/bge-reranker-v2.5-gemma2-lightweight. Она оценивает релевантность текстовых пар и предназначена для повторной сортировки результатов поиска и задач информационного поиска на польском языке. По README, модель показала NDCG@10 65,30 в категории реранкеров бенчмарка PIRB и результаты, близкие к BAAI/bge-reranker-v2.5-gemma2-lightweight; метаданные указывают 533,7 млн параметров и контекст 514 токенов. Репозиторий содержит веса safetensors и использует библиотеку sentence-transformers. Лицензия указана как Gemma; применимость условий этой лицензии следует проверять перед использованием.

Модель BLT Lab, разработанная в сотрудничестве с eBay при финансировании eBay, предназначена для сегментации англоязычных поисковых запросов в электронной коммерции. Это модель разметки последовательностей на базе BERT base uncased, дообученная для классификации токенов на обучающей выборке QueryNER с дополнительными аугментациями, призванными повысить устойчивость к опечаткам и упоминаниям, отсутствовавшим в обучающих данных. Модель выделяет фрагменты запроса, которые можно использовать для взвешивания сущностей, связывания их с базами знаний или удаления отдельных фрагментов при обработке запросов с низкой полнотой результатов. Она рассчитана на английский язык и контекст до 512 токенов. Для использования предсказаний авторы применяют постобработку, учитывающую метку только первого субтокена. Модель обучена на QueryNER и может хуже работать на других доменах без дополнительных данных и дообучения. README указывает на исследовательское и прикладное использование для сегментации запросов, а результаты оценки и ограничения отсылает к статье. Лицензия — CC-BY-4.0.

ResNetV2-152x2 BiT — сверточная модель классификации изображений из библиотеки timm. Авторы статьи Big Transfer предварительно обучили её на ImageNet-21k и дообучили на ImageNet-1k. Модель насчитывает 236,3 млн параметров и рассчитана на изображения размером 448 × 448 пикселей. Архитектура основана на ResNet-V2 с предварительной активацией и использует Group Normalization вместе с Weight Standardization вместо Batch Normalization. Помимо классификации, модель можно применять как визуальный backbone для извлечения карт признаков и эмбеддингов изображений. Модель подходит для классификации изображений в наборе классов ImageNet-1k и построения визуальных признаков. Веса распространяются в форматах PyTorch и Safetensors; для использования указана лицензия Apache-2.0.

ResNetV2-152x4 BiT — модель классификации изображений и визуальная backbone-модель, обученная авторами статей Big Transfer на ImageNet-21k. Она построена на архитектуре pre-activation ResNet и использует Group Normalization и Weight Standardization вместо Batch Normalization. Модель содержит около 1,107 млрд параметров, рассчитана на изображения размером 224 × 224 пикселя и требует значительных вычислительных ресурсов. Модель предназначена для классификации изображений, извлечения карт признаков и получения визуальных эмбеддингов. Обучение на ImageNet-21k даёт ей широкие визуальные представления для задач компьютерного зрения; доступные веса представлены в форматах PyTorch и Safetensors и используются через библиотеку timm. Лицензия — Apache-2.0. Модель обрабатывает изображения и выдаёт классы либо визуальные признаки и эмбеддинги. Она не предназначена для понимания текста или мультимодального диалога; при переносе на узкие предметные области может потребоваться дополнительная адаптация.

RockAndEgg-313M — компактная модель-основа для классификации и извлечения признаков, созданная разработчиком moeshawky на основе Qwen/Qwen3-0.6B-Base. Это плотная причинная трансформерная архитектура Qwen3 без специализированной классификационной головы: сохранены первые 10 из 28 слоёв исходной модели, ширина скрытых представлений и токенизатор. В метаданных указано 281,4 млн параметров, а README оценивает backbone примерно в 312,89 млн параметров. Модель принимает текст, поддерживает контекст до 32 768 токенов и выдаёт скрытые представления для последующей классификации, регрессии, ранжирования или оценки после настройки под нужную задачу. Модель подходит для создания компактных классификаторов и моделей оценки, а также для экспериментов с признаковыми представлениями причинных языковых моделей. Для целевого применения необходимо задать и обучить собственную голову и согласовать обработку паддинга, маски внимания, усечения и последнего непустого токена. Сокращение глубины не сопровождалось дистилляцией; README не заявляет сохранение качества генерации, рассуждений, следования инструкциям, чата или работы с длинным контекстом относительно исходной модели. Лицензия — Apache-2.0.