IV.6Научные исследования, математика и новые материалы

Qwythos-9B-Claude-Mythos-5-1M-GGUF — это GGUF-квантизации модели Qwythos-9B-Claude-Mythos-5-1M, разработанной Empero. Модель предназначена для запуска в llama.cpp, Ollama, LM Studio, jan, KoboldCpp и других совместимых средах. Она создана на основе Qwen3.5-9B и дообучена более чем на 500 миллионах токенов трасс Claude Mythos и Claude Fable с использованием внутреннего инструмента Empero AI rethink. Модель ориентирована на рассуждения, агентские сценарии, вызов функций, анализ кибербезопасности и биомедицинских задач. Она поддерживает нативный function calling по спецификации Qwen3.5, английский язык и контекст до 1 048 576 токенов благодаря масштабированию RoPE YaRN. Это мультимодальная модель с поддержкой изображений: для обработки изображений требуется отдельный файл vision projector mmproj, унаследованный от Qwen3.5-9B. Заявлены возможности описания изображений, OCR, чтения графиков и таблиц, понимания интерфейсов и документов, а также базового пространственного анализа. Доступны варианты квантизации от Q4_K_M до Q8_0 и BF16, включая версии с MTP для спекулятивного декодирования. Q4_K_M указан как рекомендуемый компромисс между размером и качеством. Сильными сторонами являются большой контекст, рассуждения, поддержка инструментов и локального мультимодального запуска. Ограничения включают зависимость производительности и качества от выбранной квантизации, поддержки MTP конкретным рантаймом и наличия отдельного vision projector для изображений; подробные результаты оценки и полное описание возможностей находятся в карточке базовой модели. Модель распространяется по лицензии Apache-2.0.

Карточка модели punitkandoi/zembed-1-embedding на Hugging Face совпадает с карточкой zeroentropy/zembed-1-embedding, поэтому описание составлено по ней. zembed-1 — открытая многоязычная модель эмбеддингов ZeroEntropy, дообученная на базе Qwen/Qwen3-4B и дистиллированная из реранкера zerank-2 с использованием методики zELO. Она предназначена для семантического поиска и построения систем retrieval по текстам, включая поиск по финансовым, медицинским, юридическим, разговорным, производственным, научно-техническим материалам и коду. Модель содержит около 3,7 млрд параметров, использует плотную архитектуру Qwen3 и принимает текст; её контекст составляет до 40 960 токенов по метаданным. README заявляет поддержку проекций эмбеддингов размерностью 2560, 1280, 640, 320, 160, 80 и 40, а также бинарной квантизации с компромиссом между размером и точностью. По заявлению разработчика, модель показала более высокие результаты, чем ряд сравниваемых моделей, в оценках поиска по нескольким предметным областям; приведённые в карточке таблицы содержат лишь часть результатов. Обучение велось на многоязычных данных, более половины которых, по README, не на английском, однако конкретный перечень поддерживаемых языков не приведён; метаданные указывают английский и многоязычность. Модель распространяется по лицензии Apache 2.0. Для использования также упоминается API ZeroEntropy /models/embed.

Falcon OCR — модель TII для распознавания текста и разбора документов по изображению. Это компактная модель на 270 млн параметров с ранним слиянием визуальных и текстовых токенов: единый Transformer обрабатывает патчи изображения и текст в общем пространстве параметров, используя двунаправленное внимание для изображения и причинное декодирование текста с учётом изображения. Модель извлекает обычный текст, формулы в LaTeX и таблицы в HTML; промпты позволяют выбирать категории элементов страницы. Она рассчитана на сканы, фотографии документов, чеки, рукописные заметки, формы, журналы и другие материалы. Для большинства страниц рекомендуется сквозной OCR; для очень плотных многоколоночных страниц доступен двухэтапный сценарий с детектором макета PP-DocLayoutV3. Версия 1.5 дообучена с GRPO для улучшения работы с реальными документами, сложными таблицами, рукописным текстом и деградированными сканами, а также для снижения галлюцинаций и повторов. Компактный размер помогает снизить задержку и стоимость обслуживания; в описанной авторами конфигурации vLLM пропускная способность может быть в 2–3 раза выше, чем у OCR VLM размером около 0,9 млрд параметров, в зависимости от длины последовательностей и пакетирования. Для запуска требуются PyTorch 2.5 или новее и Transformers. Лицензия — Apache-2.0.

LongAlign-13B-64k — языковая модель семейства LLaMA, опубликованная командой LongAlign. Она предназначена для генерации текста и выполнения инструкций в длинных контекстах. Проект описывает обучение на наборе LongAlign-10k из 10 000 инструкций длиной 8–64 тыс. токенов и оценивает следование инструкциям на запросах длиной 10–100 тыс. токенов. Модель содержит 12,9 млрд параметров, принимает текст и имеет заявленное контекстное окно 65 536 токенов. В метаданных указаны английский и китайский языки; репозиторий содержит веса PyTorch для Transformers. README объясняет подход проекта к выравниванию моделей для длинного контекста, но приведённый фрагмент не уточняет конкретную базовую модель и обучающие детали именно версии 13B-64k. Лицензия — Apache-2.0.

Qwen2.5-VL-72B-Instruct — мультимодальная инструкция-тюнингованная модель семейства Qwen2.5-VL, разработанная командой Qwen. Это плотная модель на 71,5 млрд параметров с архитектурой Qwen2_5_VLForConditionalGeneration; она принимает текст, изображения и видео и выдаёт текстовые ответы, включая структурированные данные. Модель рассчитана на диалоговые сценарии с визуальным содержимым. Модель распознаёт и анализирует объекты, текст, диаграммы, графики и макеты на изображениях, понимает длинные видео и может указывать временные сегменты событий. Она также поддерживает визуальную локализацию объектов с координатами в виде рамок или точек и может управлять инструментами в сценариях взаимодействия с компьютером или телефоном. Контекст составляет до 128 000 токенов. В карточке указана поддержка английского языка. К сильным сторонам относятся работа с изображениями и видео, структурированные ответы и динамическая обработка разрешения и частоты кадров. Обработка изображений с высоким разрешением требует больше вычислительных ресурсов; для видео описана поддержка локальных файлов, а работа с URL зависит от сторонней библиотеки. Лицензия указана как other, поэтому конкретные условия использования следует уточнить в файлах репозитория.

unsloth/Qwen2-VL-2B-Instruct-bnb-4bit — мультимодальная instruction-tuned модель, основанная на Qwen/Qwen2-VL-2B-Instruct и опубликованная Unsloth. Она предназначена для обработки изображений, видео и текста, визуального вопросно-ответного взаимодействия, анализа документов и сцен, а также сценариев, где требуется принимать решения на основе визуальной информации и текстовых инструкций. Модель содержит 2 миллиарда параметров и распространяется в 4-битном формате bnb. Она поддерживает динамическое разрешение изображений, преобразуя изображения в переменное число визуальных токенов, и использует Multimodal Rotary Position Embedding (M-ROPE) для обработки текстовых, двумерных визуальных и трёхмерных видеопозиционных данных. Заявлена поддержка понимания видео длительностью более 20 минут и распознавания текста на английском, китайском, большинстве европейских языков, японском, корейском, арабском и вьетнамском языках. Сильные стороны модели — сочетание компактного размера, 4-битного квантования и мультимодальных возможностей, включая анализ изображений высокого разнообразия разрешений и пропорций, документов и видео. Ограничения, включая возможные потери качества из-за квантования и отсутствие в карточке подробных характеристик контекстного окна, производительности и требований к оборудованию, следует учитывать при выборе модели. Модель распространяется по лицензии Apache-2.0.

Llama 3.2-11B-Vision — мультимодальная модель Meta для анализа изображений и генерации текстовых ответов. Она построена на авторегрессионной архитектуре Transformer семейства Llama 3.1 и использует отдельно обученный визуальный адаптер с cross-attention, который передаёт представления изображений в языковую модель. Размер модели — 11 млрд параметров; она принимает изображения и текст, выдаёт текст и поддерживает контекст до 128 тыс. токенов. Модель предназначена для распознавания изображений, визуальных рассуждений, создания подписей и диалога по изображениям. Она подходит для визуальных вопросов и ответов, извлечения сведений из изображений документов, поиска соответствий между изображениями и текстом, а также привязки текстовых описаний к областям изображения. Для задач с изображениями официально поддерживается английский язык; в текстовых задачах также поддерживаются немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель основана на Llama 3.1 и включает визуальный адаптер; для настроенных версий семейства применяются supervised fine-tuning и обучение с обратной связью от людей. Это статический чекпойнт, обученный на офлайн-данных с отсечкой знаний в декабре 2023 года. Использование регулируется Llama 3.2 Community License — специальной лицензией с коммерческими условиями и Acceptable Use Policy.

Llama-3-8B-Instruct-Gradient-1048k — дообученная Gradient версия Meta Llama 3 8B Instruct для диалогов и генерации текста с длинным контекстом. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров; заявленное окно контекста — 1 048 576 токенов, расширенное с 8 тысяч токенов настройкой параметра RoPE theta. Для этого этапа обучения использовано 830 млн токенов, а суммарно для всех этапов — 1,4 млрд токенов. Модель подходит для диалоговых ассистентов и задач, где нужно учитывать большие объёмы текста за один запрос, например при анализе длинных документов. В карточке заявлена поддержка английского языка; доступны веса в формате safetensors и чат-возможности. Для запуска автор рекомендует Transformers или TGI. Модель выпущена Gradient по лицензии Llama 3. Как и другие инструктивные LLM, она может давать ошибки и небезопасные ответы; для прикладного развёртывания следует оценивать качество на своих данных и при необходимости добавлять меры защиты.

LongAlign-7B-64k — языковая модель семейства Llama, выпущенная командой LongAlign для следования инструкциям в длинном контексте. В README проект описывает набор LongAlign-10k из 10 000 инструкций длиной 8–64 тыс. токенов, а также обучение с упаковкой примеров и сортировкой по длине батча. Модель содержит 6,6 млрд параметров и рассчитана на контекст до 65 536 токенов. Модель предназначена для генерации ответов на запросы, включающие длинные документы или контекст. Карточка связывает LongAlign-7B-64k-base с Llama-2-7B, расширенной до контекста 64 тыс. токенов; данный репозиторий относится к серии LongAlign, обученной для выравнивания на длинном контексте. Поддерживаемые языки по метаданным — английский и китайский. Модель распространяется по лицензии Apache-2.0. Среди подходящих сценариев — ответы на вопросы по длинным текстам, следование инструкциям с большим контекстом и суммирование объёмных материалов. README описывает LongBench-Chat для оценки следования инструкциям при запросах длиной 10–100 тыс. токенов, но это не означает, что модель принимает контекст свыше заявленных 65 536 токенов. Приведённый фрагмент карточки не сообщает отдельные ограничения качества или подробности использования именно этой версии.

Qwen3.5-9B-Qworus-V2 — гибридная языковая модель для генерации текста, разработанная на основе объединения моделей empero-ai/Qwen3.8-9B-Distill и ornith-ai/Ornith-1.5-9B. Модель создана методом 50/50 DARE-TIES merge и предназначена для задач программирования, рассуждений, вызова инструментов, планирования, проектирования и ответов на вопросы. Модель доступна через Transformers и ориентирована на text generation. Указан размер 9B; поддерживаются форматы Safetensors и GGUF. Для GGUF предоставлены варианты квантования Q4_K_L для систем с ограниченными ресурсами и Q6_K_L для более высокой точности. В этих вариантах слои токенов и вывода повышены до Q8_0, а тензоры ssm_* используют BF16 или Q8_0 для повышения точности на длинных контекстах. Для квантований imatrix обучена на смеси данных, включающей код, бизнес-тексты, математику и Wikipedia. Модель не является полностью uncensored по умолчанию, поскольку обе исходные модели не были uncensored. В README не указаны поддерживаемые языки, максимальная длина контекста и лицензия, поэтому эти характеристики нельзя определить по имеющимся данным.