I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельКарточка модели acul21/harrier-oss-v1-0.6b на Hugging Face совпадает с карточкой microsoft/harrier-oss-v1-0.6b, поэтому описание составлено по ней. harrier-oss-v1-0.6b — разработанная Microsoft мультиязычная модель эмбеддингов текста на архитектуре Qwen3 с 507,9 млн параметров. Она использует pooling по последнему непустому токену и L2-нормализацию, формируя плотные векторы размерности 1024. Максимальная длина контекста — 32 768 токенов. Модель предназначена для поиска и ранжирования текстов, кластеризации, оценки семантического сходства, классификации и поиска параллельных текстов. Для запросов рекомендуется задавать краткую инструкцию, описывающую задачу; для документов инструкция не требуется. Семейство обучалось контрастивным методом на мультиязычных данных, а варианты 270M и 0.6B дополнительно дистиллированы из более крупных моделей эмбеддингов. В README заявлены высокие результаты на Multilingual MTEB v2. Поддерживаются многие языки, включая русский, английский, китайский, японский и ряд европейских и азиатских языков. Модель распространяется в формате Safetensors по лицензии MIT. Качество зависит от формулировки инструкции для запроса; небольшие различия результатов могут возникать из-за версий Transformers и PyTorch.
harrier-oss-v1-270m — разработанная Microsoft мультиязычная модель для получения плотных текстовых эмбеддингов. Она использует декодерную архитектуру Gemma 3 Text с пуллингом последнего токена и L2-нормализацией. Размер модели — 257 млн параметров по метаданным; размерность эмбеддингов — 640, максимальный контекст — 32 768 токенов. Модель предназначена для семантического поиска и извлечения документов, оценки сходства текстов, кластеризации, классификации, поиска параллельных фрагментов и ранжирования. Для адаптации эмбеддингов к сценарию README рекомендует добавлять к запросу краткую инструкцию; для документов инструкции не требуются. Модель обучалась контрастивным методом на мультиязычных данных, а вариант на 270 млн параметров дополнительно обучался с дистилляцией от более крупных моделей. Заявлена поддержка широкого набора языков, включая русский; перечисленные в карточке языки не исчерпывают весь список. Лицензия — MIT. README сообщает о высоких результатах на Multilingual MTEB v2, но воспроизведённые оценки могут немного различаться в зависимости от версий Transformers и PyTorch.
Hy4 preview — экспериментальная предварительная версия языковой модели Tencent Hy Team для диалогов и генерации текста. В README описана MoE-архитектура: 770 млрд параметров в основной модели, из которых активируются 49 млрд на токен; также упоминается дополнительный слой MTP для ускорения декодирования. Метаданные каталога указывают архитектуру HYV4ForCausalLM и 33,9 млрд параметров, что расходится с числом в README; поэтому размер модели здесь нельзя считать однозначным. Модель предназначена для разработки программного обеспечения, анализа документов и данных, подготовки офисных материалов, прототипирования игр и исследовательских задач. Заявлен контекст длиной до 1 048 576 токенов. В README не указаны поддерживаемые естественные языки. Известные ограничения ранней версии — избыточно долгие рассуждения по сложным задачам и склонность к повторной проверке уже выполненной работы. Модель распространяется по лицензии Apache-2.0.
Inkling-Small — мультимодальная модель общего назначения от Thinking Machines, построенная на авторегрессионном трансформере с 42 слоями и разреженным MoE-блоком: из 256 экспертов для каждого токена выбираются 6, а 2 общих эксперта активны всегда. Всего модель содержит 276 млрд параметров, из которых активно 12 млрд. Она принимает текст, изображения и аудио, обрабатывая их в общем пространстве представлений, и генерирует текст. Поддерживаются форматы BF16 и NVFP4; для работы предусмотрена библиотека Transformers. Модель предназначена для диалогов, следования инструкциям, мультимодальных запросов, программирования, чат-ботов, агентных систем с использованием инструментов и приложений с поиском по документам. Основной язык — английский; заявлены общие многоязычные возможности, но языки отдельно не перечислены. Для изображений рекомендован размер сторон 40–4096 пикселей, для аудио — WAV с частотой 16 кГц и длительностью менее двух минут. Модель может выдавать фактически неверные ответы, неточно следовать инструкциям и хуже работать в длинных диалогах; качество также может различаться по языкам и предметным областям. Для важных решений необходимы проверка человеком и дополнительные меры безопасности. Весы доступны по лицензии Apache-2.0.
Matryoshka Text Embedding v1 — мультиязычная модель эмбеддингов текста на базе энкодера XLM-RoBERTa, дообученная с применением Matryoshka Representation Learning. Она преобразует тексты в векторы для семантического поиска, сравнения предложений и извлечения документов; поддерживает семь размерностей эмбеддинга от 64 до 1024, что позволяет выбирать компромисс между качеством, скоростью и объёмом хранения. Максимальная длина последовательности — 8194 токена по метаданным модели; README указывает 8192 токена. Модель предназначена для поиска по научной литературе, правовым и медицинским документам, веб-страницам и каталогам товаров, а также для рекомендаций и индексации больших коллекций. В карточке заявлена поддержка более 100 языков; метаданные отдельно перечисляют английский, арабский, немецкий, испанский, французский, китайский, русский, турецкий, корейский, японский, итальянский, португальский и нидерландский. Метаданные указывают 658,7 млн параметров, тогда как README приводит около 568 млн. Модель выпущена hasankursun и дообучена на FacebookAI/xlm-roberta-base. Для лучшего соответствия исходному качеству используют полную размерность или крупные векторы; усечение уменьшает требования к хранению и вычислениям, но может снизить качество. Лицензия CC-BY-NC-4.0 разрешает использование с обязательной атрибуцией и ограничивает коммерческое применение.
Карточка модели marvalai/MiniMax-M3 на Hugging Face совпадает с карточкой dshive/MiniMax-M3, поэтому описание составлено по ней. MiniMax-M3 — мультимодальная модель семейства MiniMax, представленная в репозитории dshive/MiniMax-M3. Она принимает текст и изображения и предназначена для диалогов, анализа визуального содержимого, работы с видео, программирования и длительных агентных сценариев. В README заявлены около 428 млрд параметров, примерно 23 млрд активируемых параметров и контекст до 1 млн токенов. Модель использует разреженное внимание MiniMax Sparse Attention (MSA); в карточке указана архитектура MiniMax-M3-VL и формат весов safetensors. Разработчик заявляет ускорение обработки длинного контекста и сильные результаты в задачах программирования и совместной работы с агентом. Для использования описаны MiniMax Agent и MiniMax API, а также локальное развёртывание через Transformers. Репозиторий опубликован под лицензией other; конкретные условия лицензии следует проверять в карточке модели.
MiniMax-M3 — мультимодальная модель семейства MiniMax, опубликованная пользователем sdlangshaw; в README оригинальная разработка приписана MiniMax. Она предназначена для диалогов с текстом и изображениями, анализа видео, программирования и агентных задач. Модель содержит около 428 млрд параметров, из которых активируется около 23 млрд, и использует разреженное внимание MiniMax Sparse Attention (MSA). Заявлена длина контекста до 1 млн токенов; README сообщает о повышении скорости обработки длинного контекста относительно M2. Модель поддерживает текстовые и визуальные сценарии, включая видео, и рассчитана на длинные многошаговые задачи: например, разработку кода и совместную работу с агентом. Для использования README указывает MiniMax Agent и MiniMax API, а также локальное развёртывание из репозитория MiniMaxAI/MiniMax-M3. В репозитории sdlangshaw/MiniMax-M3 представлены веса safetensors для Transformers. Лицензия указана как other, без уточнения её условий в доступных данных. Заявления о производительности и возможностях приведены в README модели; они не сопровождаются здесь независимыми результатами проверки.
Карточка модели onelevelstudio/ML-E5-0.3B на Hugging Face совпадает с карточкой intfloat/multilingual-e5-base, поэтому описание составлено по ней. Multilingual-E5-base — многоязычная модель для получения эмбеддингов текста, разработанная авторами технического отчёта Multilingual E5. Она основана на XLM-RoBERTa-base и продолжительно обучена на смеси многоязычных наборов данных. Модель имеет 12 слоёв, размер эмбеддинга 768 и около 305,2 млн параметров; поддерживает до 512 токенов текста и доступна в форматах PyTorch, Safetensors, ONNX и OpenVINO. Модель предназначена для поиска по смыслу, сопоставления предложений и текстов, семантической близости, поиска парафразов и межъязыкового поиска. Для асимметричного поиска используйте префиксы «query: » и «passage: », а для симметричных задач и извлечения признаков — «query: »; без префиксов качество может снизиться. Поддерживается около 100 языков, включая русский, хотя для языков с малым объёмом данных качество может быть ниже. Лицензия — MIT.
Карточка модели ushakov15/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой woodx/Qwen3-Embedding-0.6B-SGLang, поэтому описание составлено по ней. Qwen3-Embedding-0.6B-SGLang — дообученная модель семейства Qwen3, представленная в репозитории woodx и основанная на Qwen/Qwen3-0.6B-Base. Она преобразует текст в эмбеддинги для семантического поиска и сопоставления текстов. Модель содержит около 507,6 млн параметров, поддерживает контекст до 32 768 токенов и формирует векторы размерностью от 32 до 1024 с возможностью задавать инструкцию под задачу. Модель предназначена для многоязычного поиска по текстам и коду, классификации и кластеризации текстов, поиска параллельных фрагментов на разных языках и задач семантического сходства. В карточке серии заявлена поддержка более 100 языков. Для улучшения результатов поиска рекомендуется задавать подходящую инструкцию; в многоязычных сценариях авторы советуют формулировать её на английском. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.
Карточка модели novelcore/model15 на Hugging Face совпадает с карточкой thenlper/gte-small, поэтому описание составлено по ней. gte-small — модель текстовых эмбеддингов семейства General Text Embeddings (GTE), разработанная Alibaba DAMO Academy на основе архитектуры BERT. Вариант small содержит около 40 млн параметров и принимает тексты длиной до 512 токенов; для более длинных текстов вход обрезается. Модель рассчитана на английский язык. Полученные эмбеддинги подходят для семантического поиска и сравнения предложений, а также могут использоваться в конвейерах поиска информации и ранжирования текстов. Модель можно применять, например, для поиска релевантных документов или оценки смыслового сходства запросов и фрагментов текста. Лицензия — MIT.
Карточка модели calmresearch-ai/Model4 на Hugging Face совпадает с карточкой shaikat2007/MiMo-V2.6-Pro, поэтому описание составлено по ней. MiMo-V2.6-Pro-RL — флагманская модель серии MiMo-V2.6, разработанная Xiaomi и обученная с масштабированием обучения с подкреплением для агентных сценариев и самоулучшения. Она предназначена для генерации текста, программирования, работы с инструментами и задач, где агент взаимодействует со средой и оценивает результаты своих действий. Модель построена на разреженной архитектуре Mixture of Experts. В README указаны 1,02 трлн общих и 42 млрд активируемых параметров; метаданные репозитория указывают 27,7 млрд параметров и класс MiMoV2ForCausalLM. Контекст составляет до 1 млн токенов. Модель поддерживает текст, изображения, видео и аудио, а также интерфейс вызова инструментов. В карточке заявлены английский и китайский языки. Модель подходит для длительных агентных запусков, анализа визуальных и аудиовизуальных материалов, программирования и работы с длинными документами или репозиториями. README приводит результаты бенчмарков, но они не гарантируют качество на конкретных задачах; развёртывание рассчитано на специализированные средства инференса и мощное оборудование. Лицензия репозитория — MIT.
jfarray/Model_paraphrase-multilingual-MiniLM-L12-v2_30_Epochs — модель Sentence Transformers на базе архитектуры BERT. Она преобразует предложения и абзацы в плотные векторы размерностью 384, предназначенные для сравнения семантической близости, семантического поиска и кластеризации. Обучение проводилось с функцией потерь CosineSimilarityLoss; модель доступна в формате PyTorch и может использоваться через Sentence-Transformers или Transformers с подходящим pooling. Модель подходит для поиска похожих фраз и документов, группировки текстов и получения векторных представлений для последующей обработки. Контекст ограничен 512 токенами. Название базовой модели указывает на мультиязычный вариант MiniLM, однако README и метаданные не приводят список поддерживаемых языков или идентификатор базовой модели. Лицензия в предоставленных данных не указана.
ModernBERT-embed-large — модель LightOn на архитектуре ModernBERT для создания векторных представлений текста и сравнения сходства предложений. Она основана на ModernBERT-large и объединяет его с ModernBERT-embed-large-unsupervised; модель дообучалась на слабоконтролируемых и размеченных наборах данных Nomic Embed. Веса содержат около 394,7 млн параметров, поддерживают контекст до 8192 токенов и эмбеддинги размерностью 1024, которые можно сократить до 256 с помощью Matryoshka Representation Learning. Модель предназначена для семантического поиска, извлечения релевантных документов, кластеризации, классификации и оценки сходства пар текстов. В карточке приведены результаты на бенчмарке MTEB по поиску, переранжированию, классификации и другим задачам. Вход и выход — текст и его векторное представление. Основной заявленный язык — английский. Доступны форматы safetensors и ONNX; карточка описывает использование через Transformers, Sentence Transformers и Transformers.js. Лицензия — Apache-2.0. Качество может зависеть от предметной области и языка; результаты при сокращении вектора немного отличаются от результатов с полным вектором. Оценки бенчмарков не гарантируют аналогичное качество на конкретных данных.
sentence-transformers/msmarco-distilbert-base-v2 — модель Sentence-Transformers, обученная командой Sentence Transformers на базе DistilBERT. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства, кластеризации и других задач с текстовыми эмбеддингами. Модель принимает текст, использует архитектуру DistilBERT и рассчитана на контекст до 512 токенов. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Модель распространяется по лицензии Apache-2.0.
Multilingual-E5-large — многоязычная модель эмбеддингов текста, опубликованная intfloat; её технический отчёт подготовили Liang Wang, Nan Yang, Xiaolong Huang, Linjun Yang, Rangan Majumder и Furu Wei. Модель основана на XLM-RoBERTa-large и имеет 24 слоя с размерностью эмбеддинга 1024. Она принимает текст и выдаёт векторные представления для поиска и сравнения текстов. Модель предназначена для межъязыкового и многоязычного поиска, ранжирования passage по запросу, оценки семантического сходства, поиска перефразировок и использования эмбеддингов в кластеризации или классификации. При обучении текстовые роли задаются префиксами `query:` и `passage:`; их следует выбирать в соответствии со сценарием, иначе качество может снизиться. Поддерживаются 100 языков XLM-RoBERTa, включая русский, однако для языков с небольшим объёмом ресурсов качество может быть ниже. Вход ограничен 512 токенами, а более длинный текст обрезается. Лицензия — MIT.
Data-Lab multilingual-e5-large-instruct-embedder_distill-tgd — дообученная модель Sentence Transformer на базе intfloat/multilingual-e5-large-instruct, разработанная Data-Lab. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для семантического поиска и сравнения текстов. Архитектура включает XLM-RoBERTa, усреднение токенных представлений и нормализацию; модель использует косинусное сходство и принимает последовательности длиной до 514 токенов по метаданным. Модель подходит для поиска близких по смыслу документов, оценки сходства текстов, поиска перефразирований, кластеризации и классификации на основе эмбеддингов. В README приведена точность cosine_accuracy 0,8994 на dev-наборе TripletEvaluator, но это значение относится только к указанной оценке и не гарантирует качество на других данных. Метаданные не уточняют языковой охват дообученной версии; базовая модель многоязычная. Репозиторий содержит веса Safetensors; сведения о лицензии в предоставленных данных отсутствуют.
Multilingual-E5-small — многоязычная модель текстовых эмбеддингов семейства E5, основанная на архитектуре BERT. В карточке указаны 12 слоёв и размерность эмбеддинга 384; метаданные сообщают о 124,3 млн параметров и формате ONNX. Модель инициализирована из microsoft/Multilingual-MiniLM-L12-H384 и дополнительно обучена на смеси многоязычных наборов данных. Модель предназначена для получения векторных представлений текстов и оценки их семантического сходства. Её можно применять для поиска и ранжирования пассажей, семантического поиска, сопоставления парафразов и межъязыкового поиска. Для поиска по запросу и документам следует добавлять префиксы «query: » и «passage: » соответственно; для симметричных задач и использования эмбеддингов как признаков применяется «query: ». Модель поддерживает 100 языков, однако качество может снижаться для языков с малым объёмом ресурсов. Тексты длиннее 512 токенов обрезаются. Лицензия — MIT.
Olmo-3.1-32B-Think — авторегрессионная Transformer-модель семейства OLMo, разработанная Allen Institute for AI (Ai2). Это вариант Think с 31,7 млрд параметров, дообученный на базе allenai/Olmo-3-32B-Think-DPO; в метаданных указан датасет Dolci-Think-RL. Модель принимает текст и генерирует текст, поддерживает диалоговый режим и интерфейс вызова инструментов. Контекстное окно составляет 65 536 токенов, основным языком карточка называет английский. Модель предназначена для рассуждений и ответов на запросы по математике, программированию, общим знаниям и диалогу. Ai2 сообщает об улучшении решения задач благодаря длинным цепочкам рассуждений; в карточке приведены результаты тестирования, включая 96,2 балла на MATH и 80,6 на AIME 2024. Результаты бенчмарков не гарантируют точность ответов в конкретных сценариях. Модель распространяется в формате safetensors и использует библиотеку Transformers. Лицензия — Apache 2.0; Ai2 указывает на исследовательское и образовательное применение в соответствии с рекомендациями ответственного использования. Модель может выдавать неточные сведения и вредоносный или предвзятый контент, поэтому ответы следует проверять.
Olmo-3-7B-Think-DPO — авторегрессионная языковая модель семейства OLMo 3, разработанная Allen Institute for AI (Ai2). Это плотный Transformer с 6,9 млрд параметров, дообученный методом DPO на наборе Dolci-Think-DPO-7B поверх allenai/Olmo-3-7B-Think-SFT. Модель поддерживает диалоговый режим и генерирует текст; контекстное окно составляет 65 536 токенов. Основной язык — английский. Модель предназначена для рассуждений с длинной цепочкой шагов, особенно при решении математических задач и написании кода, а также для диалогов, ответов на общие вопросы и следования инструкциям. В обучающих данных DPO были математические, программные, диалоговые и общеобразовательные запросы. Модель распространяется в форматах PyTorch и Safetensors и поддерживается Transformers версии 4.57.0 и выше. Лицензия — Apache 2.0; карточка также отсылает к рекомендациям Ai2 по ответственному использованию. Модель может выдавать неверные факты и без фильтрации генерировать вредный или предвзятый контент, поэтому ответы следует проверять.
Ornith-1.5-397B-MXFP4 — квантизированная версия модели Ornith-1.5-397B, опубликованная truespirit на базе модели ornith-ai. Это генеративная текстовая модель для задач общего рассуждения, программирования и агентских сценариев; сервер предоставляет OpenAI-совместимый API. README не содержит сведений о поддерживаемых языках и полном наборе модальностей, хотя в архитектуре упоминаются визуальные компоненты. Модель использует архитектуру Qwen3.5 MoE / Ornith 1.5 с 397 млрд параметров. Квантизация выполнена по формату OCP MXFP4 с размером блока 32 с помощью AMD Quark 0.12.post1. В MXFP4 переведены веса маршрутизируемых MoE-экспертов, а attention, shared experts, gates, MTP, визуальные компоненты и lm_head сохранены в BF16. Размер чекпойнта составляет около 239 ГБ, что примерно вдвое меньше исходной версии. Сборка ориентирована на запуск на одной AMD Instinct MI355X с 288 ГБ HBM и TP=1. В протестированной конфигурации с SGLang ROCm достигались примерно 180–200 токенов/с при однопоточном декодировании и около 290 токенов/с при четырёх одновременных запросах; измеренный предел входа составлял около 86 тысяч токенов, а в конфигурации сервера задан контекст до 81920 токенов. Эти показатели зависят от оборудования и программного окружения и не являются оценкой качества модели. Квантизация может приводить к численным отличиям от исходного FP8-чекпойнта. Модель распространяется по лицензии MIT, унаследованной от базовой модели.
paraphrase-multilingual-mpnet-base-v2 — многоязычная модель Sentence Transformers, обученная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768, пригодные для семантического поиска, сравнения сходства и кластеризации текстов. Архитектура основана на XLM-RoBERTa; модель содержит 305,2 млн параметров и поддерживает контекст до 514 токенов. Модель подходит для поиска семантически близких фрагментов и группировки текстов на разных языках. Она доступна в форматах PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Результат модели — векторное представление текста, поэтому для получения оценки сходства или поиска требуется сравнить векторы подходящим методом.
jamiealexandre/paraphrase-multilingual-mpnet-base-v2-konni — модель Sentence-Transformers для преобразования предложений и абзацев в плотные векторы размерностью 768. Она основана на архитектуре XLM-RoBERTa, содержит 305,2 млн параметров и принимает текстовые последовательности длиной до 514 токенов. Модель предназначена для получения эмбеддингов, семантического поиска, сравнения текстов и кластеризации. Разработчик карточки указывает Sentence-Transformers; README описывает базовую модель paraphrase-multilingual-mpnet-base-v2. Векторные представления подходят для поиска похожих фрагментов и группировки текстов по смыслу. Для использования с Transformers требуется корректно применять pooling к контекстным представлениям токенов; Sentence-Transformers упрощает этот шаг. Модель распространяется в формате PyTorch по лицензии Apache-2.0.
paraphrase-TinyBERT-L6-v2 — модель sentence-transformers, обученная командой sentence-transformers для преобразования предложений и абзацев в плотные векторы размерности 768. Она основана на архитектуре BERT и предназначена для получения эмбеддингов, которые можно сравнивать по смыслу. Модель подходит для семантического поиска, кластеризации текстов и оценки сходства предложений. Для работы с ней можно использовать библиотеку Sentence-Transformers; при использовании Transformers необходимо применить подходящую операцию pooling к контекстным представлениям токенов. Репозиторий содержит варианты в форматах PyTorch, safetensors, TensorFlow, ONNX и OpenVINO. Максимальная длина контекста — 512 токенов. Модель распространяется по лицензии Apache-2.0.
paraphrase-xlm-r-multilingual-v1 — модель Sentence-Transformers для преобразования предложений и абзацев в плотные векторы размерности 768. Она основана на XLM-RoBERTa, содержит 305,2 млн параметров и предназначена для вычисления сходства по смыслу, семантического поиска и кластеризации текстов. Контекст модели составляет до 514 токенов. Модель обучена командой Sentence-Transformers и поддерживает многоязычные тексты. Для получения векторов её можно использовать через библиотеку Sentence-Transformers или через Transformers с подходящей операцией pooling. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Модель подходит для поиска похожих предложений, группировки текстов и построения семантического поиска. Она выдаёт векторные представления, а не готовые ответы; качество может зависеть от языка и предметной области. Лицензия — Apache-2.0.
Qwen3.5-35B-A3B-GGUF — это GGUF-квантизированная версия модели Qwen3.5-35B-A3B, разработанная ByteShape с использованием ShapeLearn. ShapeLearn подбирает оптимальный тип данных для каждого тензора, стремясь сохранить качество при малой разрядности. Модель распространяется в вариантах для GPU и CPU с различными компромиссами между размером, скоростью и качеством; размер доступных вариантов в приведённой таблице составляет от 9,41 до 17,9 ГБ при 2,17–4,12 бит на вес. Модель предназначена для текстовых и визуально-текстовых задач, включая диалоговое применение, программирование, агентные сценарии, function calling и обработку изображений. Она поддерживает vision-возможности при запуске через llama.cpp с автоматической загрузкой vision projector. Для работы рекомендуются llama.cpp или LM Studio; на момент публикации Ollama не поддерживает эту модель на базе Llama.cpp GGUF. В README не указаны языки и размер контекстного окна. К сильным сторонам относятся доступность нескольких уровней квантизации, оптимизация под разные аппаратные платформы и заявленная ориентация на сохранение качества при низкой разрядности. Ограничения включают зависимость характеристик от выбранного варианта квантизации и оборудования, а также отсутствие в README подробных численных результатов benchmark-тестов для конкретных файлов. Модель распространяется по лицензии Apache-2.0.
Qwen3.8-27B-heretic-ara-fp8 — мультимодальная модель на базе Qwen3.8-27B, разработанная Qwen Team и преобразованная в производный checkpoint проектом Heretic с использованием метода Arbitrary-Rank Ablation (ARA). FP8-квантизацию, проверку и публикацию выполнил magiccodingman. Квантизация не включает дополнительное дообучение, слияние моделей или новую abliteration; поведение унаследовано от upstream-модели heretic-org/Qwen3.8-27B. Модель предназначена для работы с текстом и изображениями, а конфигурация репозитория также содержит процессор для изображений и видео. Она может применяться в задачах программирования, математики, науки, генерации структурированных данных, SQL, многоязычного текста, работы с инструментами и инженерии вывода. Точный набор поддерживаемых языков, архитектурные детали, размер контекста и результаты исходных бенчмарков в данном README не приведены. Модель содержит около 27 миллиардов параметров; веса представлены в формате FP8 E4M3 с блочной гранулярностью масштабирования 128×128, а объём тензорных данных составляет около 30,87 ГБ. К сильным сторонам относятся существенное снижение размера весов по сравнению с BF16 и близость поведения к исходной BF16-модели: при проверке средняя дивергенция KL составила 0,00315279, а совпадение наиболее вероятного токена — 96,5517%. Однако поддержка нативных FP8-ядер и FP8 KV-cache зависит от ускорителя, backend и версии программного обеспечения; при отсутствии совместимой реализации веса могут быть деквантизированы. Модель наследует ограничения исходного checkpoint и намеренно сниженное поведение отказа, поэтому требует самостоятельной проверки, защитных мер и контроля безопасности. Лицензия — Apache License 2.0; применяются также уведомления и атрибуции upstream-компонентов.
Qwen3-VL-235B-A22B-Instruct-AWQ — квантованная версия мультимодальной instruct-модели Qwen3-VL-235B-A22B-Instruct, разработанной командой Qwen. Модель предназначена для генерации текста по текстовым и визуальным запросам, анализа изображений и видео, OCR, визуального рассуждения, решения STEM- и математических задач, пространственного анализа, визуального программирования и взаимодействия с графическими интерфейсами через инструменты. Модель построена на архитектуре Mixture-of-Experts (MoE) с общим размером 235B параметров и 22B активных параметров. Она поддерживает текст, изображения и видео, заявлена с нативным контекстом 256K токенов и возможностью расширения до 1M. Среди архитектурных особенностей указаны Interleaved-MRoPE для временных и пространственных измерений, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками для анализа событий в видео. OCR поддерживает 32 языка, однако полный перечень языков в README не приведён. К сильным сторонам относятся расширенное понимание изображений и видео, распознавание текста в сложных условиях, пространственное и временное рассуждение, а также возможность использования в агентных сценариях и визуальном программировании. Ограничения связаны с крупным размером и высокими требованиями к вычислительным ресурсам: опубликованный набор файлов занимает около 117 GB, а пример запуска рассчитан на 8 GPU с tensor parallelism и expert parallelism. Репозиторий распространяется по лицензии Apache-2.0; для инференса рекомендуется vLLM версии 0.11.0 или выше.
cyankiwi/Qwen3-VL-2B-Instruct-AWQ-4bit — это 4-битная AWQ-квантизованная версия мультимодальной instruct-модели Qwen3-VL-2B-Instruct, разработанной командой Qwen. Модель предназначена для обработки текста и изображений, а также заявлена для понимания видео, визуального рассуждения и взаимодействия с графическими интерфейсами. Она может использоваться для описания изображений, визуального и текстового анализа, OCR, STEM- и математических задач, генерации кода и выполнения агентных сценариев с инструментами. Модель относится к плотной архитектуре и имеет 2 млрд параметров в базовой версии; применённая 4-битная AWQ-квантизация снижает требования к памяти и может упростить локальное развёртывание, потенциально ценой некоторого снижения точности по сравнению с полной версией. В README указаны контекст до 256K токенов с возможностью расширения до 1M, поддержка видео с временной индексацией и OCR на 32 языках, однако конкретный список языков для данной сборки не приведён. Среди архитектурных компонентов упомянуты Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Сильные стороны модели — сочетание текстового и визуального понимания, анализ пространственных отношений, работа с длинным контекстом, документами и видео, а также поддержка визуального управления интерфейсами. Ограничения включают возможные потери качества из-за 4-битной квантизации и отсутствие в представленном README детальных результатов тестирования именно этой AWQ-сборки. Модель распространяется по лицензии Apache-2.0.
teven/roberta_kelm_tekgen — модель Sentence-Transformers на архитектуре RoBERTa, дообученная для сопоставления предложений и абзацев. Она преобразует текст в плотные векторы размерности 768, пригодные для вычисления семантического сходства, кластеризации и семантического поиска. Размер модели — 151,9 млн параметров, контекст — до 514 токенов; веса представлены в формате PyTorch. Для использования доступны Sentence-Transformers и Transformers с подходящей операцией pooling. Модель подходит для поиска текстов, близких по смыслу, и группировки похожих фрагментов. В README указано обучение с MultipleNegativesRankingLoss и косинусной функцией сходства. Язык и лицензия в предоставленных данных не установлены, поэтому модель лучше применять с проверкой качества на целевых текстах и языках.
jeonsworld/sentence-embedding-base — модель на базе RoBERTa, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 137,8 млн параметров, принимает текст и выдаёт эмбеддинги; максимальная длина контекста — 514 токенов. Модель подходит для построения векторного поиска и группировки текстов по смыслу. Метаданные указывают на поддержку извлечения признаков и сравнения предложений. В репозитории указаны веса PyTorch. Лицензия в доступных данных не приведена.