I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельQwen3.8-27B-heretic-VL-MLX-bf16 — мультимодальная модель для диалогов и анализа изображений, подготовленная donedynamics для компьютеров Apple Silicon. Это конверсия в формат MLX из trohrbaugh/Qwen3.8-27B-heretic-ara; в репозитории сохранён визуальный энкодер. Модель принимает текст и изображения, а библиотека запуска — mlx-vlm. Основа модели — плотная архитектура Qwen3.5 с 27 млрд параметров; веса представлены в bf16 без квантизации. Модель распознаёт объекты и их атрибуты на изображениях и отвечает на текстовые запросы. В README описан режим рассуждения, включённый по умолчанию: он расходует токены до начала ответа и может занять весь небольшой лимит генерации. В базовой модели снижено число отказов на запросы, которые обычно отклоняет модель с настройкой безопасности. Поэтому перед пользовательским развёртыванием следует оценить её ответы и при необходимости применять собственную фильтрацию. Лицензия — Apache-2.0.
drawais/Qwen3-Embedding-8B-AWQ-INT4 — производная от Qwen/Qwen3-Embedding-8B, разработанная на основе модели Qwen. Это версия с 4-битной квантованием весов по методу AWQ, предназначенная для запуска на локальном оборудовании с ограниченным объёмом видеопамяти. Модель рассчитана на работу с английским языком и может использоваться в сценариях, где требуется применение базовой embedding-модели при сниженных требованиях к памяти. Размер артефакта на диске составляет примерно 6,1 ГБ; заявлена возможность запуска на потребительском GPU с 8 ГБ видеопамяти при наличии запаса для KV-кэша. Для запуска через vLLM в README указан максимальный размер контекста 32 768 токенов. Ключевое преимущество модели — существенное уменьшение размера и требований к памяти благодаря INT4-квантованию. При этом README не содержит подробностей о качестве эмбеддингов, архитектуре базовой модели, поддерживаемых модальностях и результатах бенчмарков, поэтому влияние квантования на точность оценить нельзя. Модель распространяется по лицензии Apache License 2.0. Это производная работа от Qwen/Qwen3-Embedding-8B; в комплекте указаны файлы LICENSE и NOTICE с текстом лицензии и необходимой атрибуцией.
QuantFactory/Qwen3-Reranker-0.6B-GGUF — квантизированная версия модели Qwen3-Reranker-0.6B, созданная QuantFactory с использованием llama.cpp на основе Qwen/Qwen3-0.6B-Base. Это текстовая reranking-модель для переоценки и сортировки найденных документов по их релевантности запросу, прежде всего в системах поиска, retrieval-augmented generation, вопросно-ответных приложениях, классификации и других сценариях работы с текстом. Модель содержит около 0,6 млрд параметров, имеет 28 слоёв и поддерживает контекст длиной до 32K токенов. Она рассчитана на работу более чем со 100 языками, включая различные языки программирования, и предназначена для многоязычного, кросс-языкового и поиска по коду. Модель поддерживает пользовательские инструкции, которые можно адаптировать под конкретную задачу, язык или сценарий; для многоязычных задач рекомендуется формулировать инструкции на английском языке. К сильным сторонам относятся компактный размер, многоязычность, поддержка длинного контекста и возможность уточнять ранжирование с помощью инструкций. К ограничениям относятся специализация именно на переранжировании, необходимость совместного использования с этапом первичного поиска в типичной retrieval-системе и возможные особенности совместимости, связанные с квантизированным форматом GGUF и используемым программным обеспечением. Модель распространяется по лицензии Apache-2.0.
Lipdog/Qwen3-Reranker-4B-mlx-fp16 — модель ранжирования текстов на базе Qwen3 с 3,7 млрд параметров, подготовленная для запуска в формате MLX. README указывает, что она получена конвертацией Qwen/Qwen3-Reranker-4B с помощью mlx-lm версии 0.28.3. Модель оценивает релевантность текстовых кандидатов запросу и предназначена для сортировки результатов поиска и других задач ранжирования. Модель принимает текст и выдаёт оценки релевантности, которые можно использовать для упорядочивания документов или ответов. Она поддерживает контекст длиной до 40 960 токенов; метаданные указывают задачи text-ranking и text-generation, но основное назначение — реранжирование. Репозиторий распространяется по лицензии Apache-2.0.
NobodyWho/Qwen_Qwen3-0.6B-GGUF — это GGUF-квантизированная версия языковой модели Qwen/Qwen3-0.6B, подготовленная для запуска через библиотеку инференса NobodyWho. Квантизации предоставлены bartowski. Модель предназначена для генерации текста, диалогов и выполнения инструкций, а также поддерживает синтаксис вызова функций и инструментов. Модель содержит около 600 млн параметров и поддерживает контекст до 32 768 токенов. Она работает с текстом и заявляет поддержку более 100 языков. Доступен режим рассуждений с отображением пошагового ответа. В README приведён вариант Q4_K_M в формате GGUF, ориентированный на переносимый локальный запуск и использование в приложениях, включая интеграции с Godot и Flutter. К сильным сторонам относятся небольшой размер, локальный запуск, портативность GGUF-файлов и поддержка многоязычных диалогов, инструментов и режима рассуждений. При этом архитектура, точные языковые показатели и результаты тестирования не указаны, бенчмарки заявлены как готовящиеся, а дата отсечения знаний неизвестна. Базовая модель распространяется по лицензии Apache 2.0; README указывает эту же лицензию для представленного варианта.
ru-reranker-edge-150m — русскоязычный кросс-энкодер-реранкер на архитектуре ModernBERT с 149 млн параметров, разработанный sshalimov04 на базе deepvk/RuModernBERT-base. Модель принимает пару «запрос — документ» и выдаёт один логит релевантности; её используют для повторного ранжирования кандидатов, найденных поисковой системой. Контекст базовой модели достигает 8192 токенов, однако обучение и оценка проводились при длине 512 токенов. Модель дообучена методом листвайз-дистилляции: она училась воспроизводить оценки BAAI/bge-reranker-v2-m3 для групп запросов и документов. По результатам README, на выбранных русскоязычных тестах она достигает качества, близкого к модели-учителю, при меньшем размере. Доступны веса Safetensors и экспорт ONNX; лицензия — Apache-2.0. Модель предназначена для русскоязычного поиска и ранжирования документов, включая ответы на вопросы, научные тексты и нормативные документы. Для запросов с номерами статей и другими точными совпадениями BM25 может работать лучше; в таких случаях автор рекомендует сочетать нормированные оценки BM25 и реранкера. Другие языки не тестировались, а показатели скорости зависят от рантайма и оборудования.
duyntnet/Starling-LM-7B-alpha-imatrix-GGUF — это набор квантованных версий текстовой генеративной модели Starling-LM-7B-alpha, разработанной Berkeley Nest и опубликованной пользователем duyntnet. Модель предназначена для генерации текста, диалоговых сценариев и помощи в программировании на английском языке, включая односторонние и многоходовые беседы. Модель имеет размер около 7 млрд параметров и распространяется в формате GGUF с использованием imatrix-квантования. Она относится к текстовым, а не мультимодальным моделям; поддержка других языков и размер контекстного окна в карточке не указаны. Для диалогов требуется использовать шаблон, совместимый с OpenChat 3.5, а для программирования предусмотрен отдельный формат запроса Code User и Code Assistant. К сильным сторонам относятся поддержка диалогового и кодового режимов, а также доступность квантованных вариантов для запуска в средах, поддерживающих GGUF. При отклонении от рекомендованного шаблона качество может снижаться; в редких случаях ответы бывают избыточно подробными, что можно частично уменьшить настройкой temperature=0. Лицензия указана как other, без дополнительных условий в представленном README.
facebook/tart-full-flan-t5-xl — модель ранжирования документов, разработанная исследователями Meta AI и представленная в проекте TART. Это кросс-энкодер на архитектуре T5, дообученный инструкциями на примерно 40 задачах информационного поиска и инициализированный из google/flan-t5-xl. Модель принимает запрос, текст документа и инструкцию на естественном языке, а затем оценивает релевантность документа запросу, чтобы упорядочить кандидатов после первичного поиска. Модель предназначена для улучшения поиска по коллекциям документов и применяется в сценариях retrieval-augmented generation, где нужно выбрать наиболее подходящие фрагменты для ответа. Авторы сообщают о результатах на BEIR, LOTTE и X²-Retrieval, превосходящих предыдущие методы на момент публикации работы. В метаданных указаны 385,2 млн параметров и контекст до 512 токенов; README приводит для TART-full размер 1,5 млрд параметров, поэтому сведения о размере расходятся. Доступен формат PyTorch. Для использования требуется специализированная реализация EncT5. README не сообщает лицензию, поэтому условия использования по имеющимся сведениям определить нельзя.
TigerBot 13B Chat v6 — диалоговая языковая модель семейства Llama от TigerResearch, предназначенная для генерации текста в формате чата. Модель содержит 13 млрд параметров, использует плотную архитектуру LlamaForCausalLM и рассчитана на контекст до 8192 токенов. Модель подходит для ведения диалога и генерации ответов на китайском и английском языках. Веса представлены в формате safetensors; для использования в README приведены варианты запуска через Transformers и код TigerBot. Модель распространяется по лицензии Apache-2.0. README не сообщает конкретных ограничений качества или результатов оценки.
Uirapuru U1.1 — экспериментальная языковая модель, разработанная SynastrIA Networks и являющаяся уточнённой версией Uirapuru U1. Это hotfix-релиз, а не новое поколение модели: она была дообучена для усиления идентичности и поведенческого профиля Uirapuru, улучшения рассуждений, добавления новых возможностей, более естественного неформального бразильского португальского и повышения качества выполнения агентских задач. Модель предназначена для AI-ассистентов, разговорных приложений, систем на бразильском португальском, агентских сценариев, автоматизации задач, экспериментов и прототипирования. Она поддерживает португальский и английский языки и работает в режиме text-generation. Архитектура и размер базовой модели, модальности и максимальная длина контекста в README не указаны. U1.1 обучалась без adaptive thinking: целевое поведение рассуждений встроено непосредственно в модель, что должно обеспечивать большую последовательность поведения без отдельного механизма динамического управления процессом размышления. Для дообучения использован LoRA с увеличенным rank. К сильным сторонам относятся более естественный неформальный бразильский португальский, улучшенное следование инструкциям, более стабильная идентичность, обработка многошаговых задач и потенциально более подходящее поведение в агентских рабочих процессах. Ограничения включают экспериментальный статус, риск фактических ошибок и выдуманной информации, ошибки рассуждений, неверную интерпретацию инструкций и нестабильность на сложных задачах. Результаты могут зависеть от формулировки запроса и контекста, а качество на языках, отличных от португальского и английского, может быть ниже. Для практического применения необходимы проверки, защитные меры и человеческий контроль; модель не должна быть единственным источником для решений с высоким воздействием. Лицензия — Apache-2.0.
Ultravox v0.4.1 — мультимодальная речевая языковая модель компании Fixie.ai на базе Llama 3.3 70B Instruct и Whisper Large V3 Turbo. Она принимает речь и текст, объединяя текстовый запрос с аудиовходом, и генерирует текстовые ответы. Модель предназначена для голосовых агентов, анализа устной речи и перевода речи между языками. Для этой версии не применялось preference tuning; README приводит скорость около 150 мс до первого токена и 50–100 токенов в секунду на GPU A100 40GB. В карточке указана лицензия MIT. В метаданных заявлена поддержка арабского, немецкого, английского, испанского, французского, хинди, итальянского, японского, нидерландского, португальского, русского, шведского, турецкого, украинского и китайского языков. Модель выдаёт текст, а генерация аудио в этой версии не поддерживается.
Карточка модели aoiandroid/ultravox-v0_5-llama-3_1-8b на Hugging Face совпадает с карточкой fixie-ai/ultravox-v0_5-llama-3_1-8b, поэтому описание составлено по ней. Ultravox v0.5 — мультимодальная речевая языковая модель от Fixie.ai, построенная на Llama 3.1 8B Instruct и Whisper Large-v3-Turbo. Она принимает речь вместе с текстом, например текстовую системную инструкцию и голосовое сообщение, и формирует текстовый ответ. Модель предназначена для голосовых агентов, распознавания и анализа речи, а также перевода устной речи. В README заявлена скорость около 150 мс до первого токена и 50–100 токенов в секунду на GPU A100 40 ГБ при обработке аудио. Для версии 0.5 приведены результаты оценки перевода речи на наборе CoVoST 2. Для этой версии не проводилась настройка предпочтений; генерация аудио не поддерживается. Модель распространяется по лицензии MIT.
Youtu-VL-4B-Instruct-GGUF — мультимодальная vision-language модель, разработанная Tencent на базе Youtu-LLM с 4 млрд параметров. Представленная версия распространяется в формате GGUF и предназначена для локального или эффективного инференса с использованием совместимых инструментов, включая llama.cpp. Модель принимает изображения и текст и генерирует текстовые ответы, поддерживая широкий спектр задач компьютерного зрения и мультимодального понимания. Модель предназначена для визуального вопросно-ответного взаимодействия, мультимодального рассуждения и математики, OCR, анализа нескольких изображений, оценки галлюцинаций и задач GUI-агента. Среди vision-centric сценариев заявлены визуальное заземление, классификация изображений, обнаружение объектов, referring segmentation, семантическая сегментация, оценка глубины, подсчёт объектов и оценка позы человека. Архитектурной особенностью является подход Vision-Language Unified Autoregressive Supervision (VLUAS), при котором визуальные и текстовые токены участвуют в едином авторегрессионном обучении через визуальный кодбук. Это позволяет решать плотные задачи зрения и задачи генерации текста без специализированных task-specific модулей. Сильными сторонами модели являются сочетание компактного размера, широкого набора визуальных возможностей и универсальной стандартной VLM-архитектуры. В данной сборке применена GGUF-квантизация с ручным повышением точности отдельных важных слоёв, что может улучшать точность при заданном уровне квантизации, но увеличивает размер файла. README не указывает поддерживаемые языки, размер контекстного окна, точные требования к памяти и количественные результаты отдельных бенчмарков, поэтому эти характеристики нельзя определить по имеющимся данным. Лицензия обозначена как youtu-vl; также указано ограничение доступа для пользователей из Европейского союза.
Agent-ModernColBERT-no-prefix — англоязычная модель LightOn для поиска документов в сценариях агентного исследования. Это дообученная на Tevatron/AgentIR-data модель GTE-ModernColBERT-v1 с архитектурой ModernBERT и механизмом позднего взаимодействия ColBERT; она содержит 149 млн параметров и распространяется в формате safetensors через библиотеку PyLate. Модель кодирует запросы и документы в последовательности 128-мерных векторов и сравнивает их оператором MaxSim. Контекст запроса — до 8192 токенов, документа — до 4096 токенов. Модель предназначена для семантического поиска, когда к поисковому запросу добавлены рассуждения агента о том, что именно следует найти и почему. Для запросов используется формат «Reasoning: … Query: …», документы кодируются без префикса. Вариант no-prefix не требует дополнительной инструкции перед рассуждением и запросом, хотя авторы отмечают небольшое снижение качества относительно основной версии. В приведённых авторами экспериментах на BrowseComp-Plus модель показала высокие показатели извлечения в связке с агентом, однако результаты зависят от конфигурации агента и функции получения полных документов. Лицензия — Apache 2.0. Модель работает с английским текстом и предназначена для поиска и сопоставления текстовых запросов с документами; она не генерирует ответы самостоятельно.
ArliAI-Llama-3-8B-Cumulus-v0.3 — диалоговая модель OwenArli на базе Meta-Llama-3-8B-Instruct, дообученная с помощью QLoRA для продолжительных переписок и более редких отказов. Она предназначена для генерации ответов в формате чата и поддерживает контекст длиной до 8192 токенов; архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров. По заявлению автора, модель может быть немного слабее исходной Llama 3 Instruct в рассуждениях и общем интеллекте, зато лучше справляется с длинными диалогами и реже отказывает. Модель создана с использованием 4-битной загрузки и адаптера QLoRA ранга 64. Лицензия — Meta Llama 3 License Agreement.
furiosa-ai публикует копию многоязычной модели-переранжировщика BAAI/bge-reranker-v2-m3 и Furiosa Executable Bundle для запуска через Furiosa-LLM на ускорителях FuriosaAI RNGD. Модель использует плотную архитектуру XLM-RoBERTa и класс XLMRobertaForSequenceClassification; она обрабатывает пары «запрос — документ» и выдаёт оценки релевантности для переупорядочивания результатов поиска в RAG- и поисковых конвейерах. Размер составляет 658,7 млн параметров, нативный контекст — 8194 токена. Репозиторий сохраняет исходные веса FP32 без низкоразрядной квантизации; для исполнения через FXB Furiosa-LLM преобразует их в BF16. На RNGD модель использует tensor parallelism с размером 8 PE на одной карте. Доступна лицензия Apache 2.0. Карточка описывает назначение переранжирования, но не приводит конкретный список поддерживаемых языков.
RLHFlow/DPA-v1-Mistral-7B — декодерная языковая модель на архитектуре Mistral, разработанная Haoxiang Wang и дообученная для directional preference alignment с многокритериальными наградами. Она предназначена для генерации текста и диалоговых сценариев, где важно учитывать различные предпочтения пользователей. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель использует Transformers и распространяется в формате safetensors. В карточке указан английский язык и лицензия Apache-2.0. Она связана с работой ACL 2024 об арифметическом управлении предпочтениями LLM; подробности о наборах данных и измеренных ограничениях в карточке не приведены.
Fijik 2.0 350M SFT — компактная языковая модель Pinkstack для генерации текста и диалогов на устройствах с ограниченными ресурсами. Она основана на Granite 4.0 350M Base и имеет архитектуру GraniteMoeHybrid; по описанию автора, это вариант без слоёв Mamba. Модель содержит около 352,3 млн параметров, работает с контекстом до 65 536 токенов с масштабированием YaRN и распространяется в формате safetensors. Модель предназначена для быстрого инференса на периферийных устройствах и поддерживает сценарии с агентными задачами, рассуждениями и вызовом инструментов через шаблон чата. Обучение включало непрерывное предобучение и supervised fine-tuning на смешанных данных, включая диалоги, код, веб-поиск и использование инструментов. Внутренние сравнительные тесты автора показывают конкурентные результаты среди моделей схожего размера, но метрики приведены как pass@4 и не являются независимой оценкой. Модель не проходила RLHF; автор сообщает о настройке безопасности в ходе SFT и рекомендует задавать системную инструкцию для ответов при недостатке информации. Лицензия — Apache-2.0. Она может уступать более крупным моделям, а сам автор отмечает слабые результаты на математических задачах.
CorticalStack/gemma-7b-ultrachat-sft — языковая модель на архитектуре Gemma, дообученная методом supervised fine-tuning на наборе диалогов UltraChat с использованием LoRA. Она предназначена для генерации ответов в чатах и ведения диалога. Модель содержит 8,2 млрд параметров и поддерживает контекст до 8192 токенов. Модель принимает текст и генерирует текст. В репозитории указаны веса в формате safetensors. Лицензия — Apache-2.0. Карточка не описывает отдельные языковые специализации или ограничения качества.
inf-retriever-v1-pro — специализированная языковая модель компании INF-X-Retriever для подготовки запросов к поиску в системах с плотным векторным поиском и RAG. Она преобразует сложные, многословные или требующие рассуждений пользовательские запросы в краткие поисковые формулировки, помогающие находить релевантные фрагменты текста. Модель дообучена на базе Qwen/Qwen2.5-7B-Instruct и содержит 7,1 млрд параметров; архитектура — плотная Qwen2. Модель принимает текст и генерирует текст, поддерживает английский язык, а её контекстное окно составляет 131 072 токена. Модель предназначена для поиска по сложным запросам, включая задачи, где ответ требует рассуждений или синтеза сведений из нескольких документов. В README приведены результаты INF-X-Retriever на бенчмарке BRIGHT; эти показатели относятся к системе в целом и не должны трактоваться как результаты одной только inf-retriever-v1-pro. Модель распространяется по лицензии Apache-2.0.
FineInstructions Instruction Template Retrieval Embedding — модель эмбеддингов для поиска шаблонов инструкций FineTemplates, разработанная в рамках проекта FineInstructions. Она сопоставляет документ или его фрагменты с подходящими шаблонами инструкций; благодаря симметричному поиску также подходит для поиска документов по описанию документа, совместимого с шаблоном. Модель дообучена на синтетических данных с помощью DataDreamer на базе BAAI/bge-m3. Это плотная модель семейства XLM-RoBERTa с 658,7 млн параметров, рассчитанная на контекст до 8194 токенов. Она создаёт текстовые эмбеддинги для семантического поиска и сравнения сходства предложений; заявлена библиотека Sentence Transformers, веса доступны в формате safetensors. Подходит для поиска шаблонов по целым документам и их разделам, а также для обратного поиска документов по описанию шаблона. README не сообщает конкретный перечень языков и лицензию, поэтому их условия здесь не уточняются.
BM-K/KoSimCSE-Unsup-RoBERTa — модель корейских векторных представлений предложений из семейства KoSimCSE. Она основана на RoBERTa и предназначена для получения эмбеддингов текста, которые можно использовать для сравнения семантической близости предложений. Модель подходит для семантического поиска и кластеризации корейских текстов. В карточке указано 137,8 млн параметров и контекст до 514 токенов; доступны веса PyTorch и Safetensors. README описывает обучение KoSimCSE без разметки на корпусе Wikipedia и приводит семантический поиск и кластеризацию как downstream-задачи. Сведения о лицензии в предоставленных данных отсутствуют.
qingy2019 дообучил эту диалоговую модель на основе unsloth/Llama-3.2-3B-Instruct с использованием Unsloth и библиотеки TRL. Это плотная архитектура LlamaForCausalLM с 3,2 млрд параметров, предназначенная для генерации текста в диалогах; метаданные указывают контекст длиной до 131 072 токенов и поддержку интерфейса вызова инструментов. Модель можно применять для генерации ответов в чате и других сценариев, где требуется продолжение текста. В карточке приведены результаты Open LLM Leaderboard: среднее значение 19,63, IFEval — 49,92 и BBH — 21,35; они не дают полной оценки качества для конкретных задач. Доступны веса PyTorch и safetensors. Лицензия — Apache-2.0.
KB8407/Llama-3-KoEn-8B-Instruct-AIDOK — чат-модель для генерации текста, разработанная KB8407 путём дообучения beomi/Llama-3-KoEn-8B-Instruct-preview. Она предназначена для диалогов и ответов на инструкции на корейском и английском языках. Модель использует плотную архитектуру LlamaForCausalLM и содержит 7,5 млрд параметров; длина контекста составляет 8192 токена. В карточке указано, что при обучении применялись Unsloth и TRL. Модель подходит для разговорных интерфейсов и генерации ответов на запросы. Базовая модель ориентирована на корейский и английский языки; метаданные карточки этой модели отдельно отмечают английский. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. В README не приведены оценки качества или дополнительные ограничения.
thewordsmiths/Meta-Llama-3-8B_sft_merged_100000 — дообученная языковая модель на архитектуре Llama, разработанная thewordsmiths на основе meta-llama/Meta-Llama-3-8B. Модель содержит 7,5 млрд параметров и рассчитана на генерацию текста; в карточке также указано обучение с помощью Unsloth и библиотеки TRL. Модель может служить основой для генерации продолжений текста и других задач, решаемых через text-generation. Карточка не уточняет специализацию дообучения или особенности диалогового режима. Заявленное родительское семейство предназначено для английского текста и кода; контекст модели составляет 8192 токена. Модель распространяется под лицензией Apache-2.0. Доступны веса в формате Safetensors.
Miscii-14B-1028 — диалоговая языковая модель от Sthenno, созданная дообучением Qwen/Qwen2.5-14B-Instruct. Она предназначена для генерации текста и ролевых диалогов; карточка приводит пример настройки персон ассистента и пользователя. В метаданных указаны архитектура Qwen2, 14 млрд параметров, контекст до 131 072 токенов, поддержка чата и интерфейса вызова инструментов, а также обучение на наборах HelpSteer2, Synthetic-Persona-Chat и orpo-dpo-mix-40k. Карточка задаёт для примера персону ассистента, говорящего по-китайски. Метки модели охватывают китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. В README приведены результаты Open LLM Leaderboard, включая IFEval 82,37 и BBH 49,26, но без подробностей протокола оценки. Модель опубликована в формате safetensors по лицензии Apache-2.0.
MolmoE-1B-0924 — открытая мультимодальная модель семейства Molmo, разработанная Allen Institute for AI. Это предварительная версия модели для анализа изображений и генерации ответов на текстовые запросы о них. Модель построена как Mixture-of-Experts на базе OLMoE-1B-7B-0924 и объединяет языковую модель с визуальной составляющей. В ней 1,5 млрд активных и 7,2 млрд общих параметров; контекст — до 32 768 токенов. Модель обучалась на тщательно отобранных парах изображений и текстов PixMo и предназначена для визуальных вопросов и ответов, понимания диаграмм, документов и изображений. README заявляет высокие результаты на академических тестах и в оценке людьми среди мультимодальных моделей сопоставимого размера. Это предварительный чекпойнт: сопутствующие артефакты обучения, код и оценки планировалось опубликовать позднее. Модель может испытывать трудности с прозрачными изображениями; рекомендуется предварительно добавлять белый или тёмный фон. Лицензия — Apache-2.0.
ms-marco-MiniLM-L-6-v2 GGUF — это конвертированная и квантизованная версия модели cross-encoder/ms-marco-MiniLM-L-6-v2, опубликованная пользователем cstr для запуска через лёгкий движок инференса CrispEmbed на базе ggml. Модель предназначена для ранжирования текстовых пар и повышения качества поиска, в частности для reranking в системах RAG и сценариях, требующих работы в реальном времени. Указан английский язык. Модель построена на архитектуре BERT, содержит около 22 млн параметров, 6 слоёв, размерность представления 384, использует CLS-pooling и токенизатор WordPiece. Доступны варианты GGUF с представлением Q4_K размером 18 МБ, Q8_0 размером 24 МБ и F32 размером 87 МБ. Конвертация не изменяла архитектуру, словарь или заявленные возможности исходной модели; для преобразованных файлов заявлена битовая эквивалентность с реализацией Hugging Face с cosine similarity не менее 0,999 на тестовых текстах. Сильные стороны модели — небольшой размер, высокая скорость и возможность инференса без Python и ONNX через CrispEmbed, включая серверный режим. Ограничения включают специализацию на английских текстах и назначение для reranking, а не для генерации текста. В README также указано, что следует предпочитать исправленные файлы с суффиксом -g7c, поскольку исходные файлы имели некорректно преобразованную scoring head и могли давать неправильно калиброванные оценки и изменять порядок результатов. Модель распространяется по лицензии Apache-2.0 на тех же условиях, что и исходная модель.
Mursit-Embed-Qwen3-4B-TR-i1-GGUF — квантованная GGUF-версия модели Mursit-Embed-Qwen3-4B-TR, разработанной newmindai и подготовленной в виде квантов mradermacher. Модель основана на Qwen3 с примерно 4 миллиардами параметров и преобразует архитектуру decoder-to-encoder для создания текстовых эмбеддингов. Модель предназначена для семантического сходства, извлечения признаков, dense retrieval и информационного поиска, включая поиск по юридическим документам и турецким правовым материалам. В обучении использовались датасеты ms-marco-turkish-triplets и EuroHPC-Legal. Заявлена поддержка турецкого и английского языков, поэтому модель особенно ориентирована на двуязычные и турецко-правовые сценарии. Преимущество этой версии — доступность в широком наборе GGUF-квантовок разных размеров, что позволяет выбирать компромисс между качеством, скоростью и требованиями к памяти, включая варианты IQ4_XS, Q4_K_S и рекомендуемый Q4_K_M. Более агрессивные квантовки могут заметно снижать качество, а сведения о максимальной длине контекста, размерности эмбеддингов, точных метриках и полном примере интеграции в README не приведены. Модель распространяется по лицензии Apache-2.0.
MyAwesomeModel — модель из репозитория eeeeerrrr4/MyAwesomeModel-TestRepo, опубликованная на Hugging Face и предназначенная для извлечения признаков из текста. В метаданных она классифицирована как feature-extraction; среди тегов указана совместимость с BERT, PyTorch и библиотекой Transformers. README также описывает улучшенные способности к рассуждению, математике, программированию, пониманию текста, диалогу, суммаризации и вызову функций, однако эти сценарии не подтверждены отдельным pipeline-тегом или подробными техническими характеристиками в предоставленных данных. В карточке приведены результаты внутренних бенчмарков и рекомендации по использованию чат-версии модели. Модель распространяется по лицензии MIT. Для практического применения следует учитывать, что точные сведения об архитектуре, размере, поддерживаемых языках и длине контекста в предоставленных данных отсутствуют, а заявленные результаты README требуют самостоятельной проверки.