II.6Документация и сопровождение разработки

Qwen3.8-27B-Uncensored-GGUF — набор GGUF-квантов 27-миллиардной модели Qwen3.8, подготовленный OrcaRouter на основе Qwen/Qwen3.8-27B. Это abliterated-версия с существенно удалёнными механизмами отказа от ответов. Модель предназначена для локального запуска через llama.cpp, включая сценарии исследований интерпретируемости, AI-безопасности, red-teaming и оценки устойчивости. Для практического применения требуется самостоятельно добавлять механизмы модерации и безопасности. Модель представляет собой плотную hybrid-attention архитектуру, сочетающую линейное внимание Gated DeltaNet и обычное full attention. Она поддерживает текст и изображения, reasoning, tool calling и MTP-голову для speculative decoding. Заявлены английский и китайский языки. Для обработки изображений нужен отдельный vision-проектор mmproj; поддерживаются CPU, CUDA, Metal и ROCm. Доступны варианты квантования от 2 до 16 бит, размер файлов — примерно от 8,9 до 54,7 ГБ; Q4_K_M указан как основной баланс качества и размера, а IQ4_XS — как предпочтительный вариант среди низкобитных квантов. К сильным сторонам относятся широкий выбор квантований, локальный запуск на различных аппаратных платформах, мультимодальность, поддержка инструментов и более эффективное speculative decoding с MTP. Ограничения включают необходимость свежей версии llama.cpp с поддержкой архитектуры qwen35 и MTP, заметное снижение качества у низкобитных вариантов, а также отсутствие встроенных защитных ограничений: модель может выполнять вредоносные или незаконные запросы. Лицензия — Apache 2.0, унаследованная от базовой модели; использование должно соответствовать законодательству и условиям лицензии.

gubernac/qwen3.8-27b-unc-fp8 — модифицированная и квантованная версия Qwen/Qwen3.8-27B. Базовая модель разработана командой Qwen компании Alibaba, а данный вариант подготовлен как сборка OrcaRouter. Из модели удалено направление отказа от ответа методом abliteration, после чего она офлайн квантована в Block-FP8 по схеме официальной Qwen3.8-27B-FP8. Это плотная мультимодальная vision-language модель для работы с текстом и изображениями, рассуждений, вызова инструментов, function calling и исследовательского red-teaming. Архитектура Qwen3_5ForConditionalGeneration включает 64 слоя, скрытое представление размером 5120, гибридное внимание Gated DeltaNet и full attention, vision-language tower и MTP-голову для speculative decoding. Модель содержит 27 млрд параметров, поддерживает английский и китайский языки и контекст до 262 144 токенов. Линейные веса хранятся в Block-FP8 E4M3 с размером блока 128×128 и динамическими активациями, а vision tower, нормы, embeddings и lm_head сохранены в BF16. Главное преимущество сборки — сохранение мультимодальности, большого контекста, рассуждений, инструментов и MTP при совместимости с соответствующим vLLM-путём исполнения. Ключевое ограничение и риск — существенное удаление защитного выравнивания: модель может выполнять вредоносные, незаконные и иные опасные запросы, от которых базовая версия отказалась бы. Поэтому она предназначена для легитимных исследований интерпретируемости, AI safety, изучения механизмов отказа, оценки устойчивости и контролируемых экспериментов, а не для непосредственного использования конечными пользователями без собственных механизмов модерации и защиты. Условия распространения указаны как Apache 2.0; также необходимо соблюдать применимые законы и ограничения базовой модели.

Qwen3-Embedding-0.6B-AWQ-INT4 — квантованная версия модели Qwen/Qwen3-Embedding-0.6B, опубликованная drawais. Это производный артефакт с 4-битным квантованием весов по схеме AWQ и размером около 0,5 ГБ на диске. Модель предназначена для эффективного запуска задач, основанных на текстовых представлениях, включая сценарии, где важны компактность и низкие требования к ресурсам. В README указана поддержка английского языка. Для запуска рекомендуется использовать vLLM; заявленная максимальная длина контекста составляет 32 768 токенов. Модель относится к текстовым и не поддерживает другие модальности согласно представленным данным. К сильным сторонам относятся малый размер, потенциально высокая скорость работы и возможность запуска на ограниченных ресурсах. При этом INT4-квантование может снижать точность по сравнению с исходной моделью, а сведения о конкретных результатах оценки, архитектуре, точных требованиях к видеопамяти и поддерживаемых сценариях применения не приведены. Модель распространяется по лицензии Apache License 2.0; для производного артефакта требуется учитывать атрибуцию исходной модели и материалы из LICENSE и NOTICE.

Это пакет GGUF-весов Qwen3-VL-32B-Thinking, подготовленный Mesh LLM для распределённого инференса. Он разделяет исходную модель unsloth/Qwen3-VL-32B-Thinking-GGUF с вариантом квантования UD-Q4_K_XL на артефакты по слоям, чтобы запускать её на кластере локальных машин и обслуживать через совместимый с OpenAI API Mesh LLM. Модель предназначена для диалогов и генерации текста в локальных и приватных сценариях, в том числе когда полный файл модели не помещается на одном компьютере. Семейство Qwen3-VL указывает на визуально-языковое назначение исходной модели, однако эта карточка описывает пакет и его инференс через текстовый API, а не подтверждает конкретные возможности обработки изображений. Пакет использует формат GGUF и библиотеку mesh-llm. Лицензионные условия следует сверять с карточкой исходной модели unsloth/Qwen3-VL-32B-Thinking-GGUF.

Qwen3-VL-4B-Thinking-Unredacted-MAX — производная мультимодальная модель prithivMLmods на архитектуре Qwen3-VL-4B-Thinking. В README говорится об оптимизации упаковки модели и совместимости с Transformers; метаданные указывают дообучение на базе Qwen/Qwen3-VL-4B-Thinking. Модель принимает изображения и текст и выдаёт текстовые ответы с визуальным рассуждением. Модель предназначена для анализа изображений, генерации подписей и описаний, подготовки аннотаций и прототипирования систем, объединяющих текст и зрение. Поддерживает изображения с разными разрешениями и соотношениями сторон; в метаданных указан английский язык. Плотная архитектура насчитывает 4 млрд параметров по названию модели. Лицензия — Apache-2.0. Качество зависит от чёткости изображения и формулировки запроса; интерпретации сложных сцен могут быть неполными или непоследовательными. Для стабильного запуска требуется достаточный объём видеопамяти, а результаты зависят от настроек декодирования и оптимизации среды выполнения.

Мультимодальная модель для ранжирования, опубликованная arthurcollet и преобразованная в формат MLX из Qwen/Qwen3-VL-Reranker-2B с помощью mlx-vlm 0.3.11. Она оценивает релевантность пар запрос–кандидат и предназначена для реранжирования результатов поиска и отбора подходящих документов или визуальных материалов. Архитектура основана на Qwen3-VL-2B-Instruct; семейство Qwen3-VL поддерживает анализ изображений и видео. Репозиторий содержит веса в формате safetensors, а метаданные указывают задачу text-ranking и возможность reranking. Лицензия — Apache-2.0. README отсылает к карточке исходной модели за подробностями, поэтому конкретные характеристики ранжирования в этой карточке не раскрыты.

sentence-transformers/roberta-base-nli-mean-tokens — модель sentence-transformers, обученная командой Sentence Transformers на основе RoBERTa. Она преобразует предложения и абзацы в плотные векторы размерности 768; архитектура содержит около 151,8 млн параметров, а максимальная длина контекста составляет 514 токенов. Модель принимает текст и выдаёт эмбеддинги, которые можно использовать для семантического поиска, сравнения предложений и кластеризации. Репозиторий содержит веса в форматах PyTorch, TensorFlow, ONNX и OpenVINO; лицензия — Apache-2.0. В README модель помечена как устаревшая: качество её эмбеддингов низкое, поэтому для новых проектов рекомендуется выбрать более современную модель для эмбеддингов предложений. Карточка не указывает поддерживаемые естественные языки.

Solon Embeddings Base 0.1 — открытая модель эмбеддингов от OrdalieTech для сравнения смысловой близости текстов и поиска по ним. Она основана на XLM-RoBERTa, содержит 305,2 млн параметров и принимает текстовые последовательности длиной до 514 токенов; репозиторий содержит веса в формате safetensors. Модель предназначена прежде всего для французских текстов. Её оценивали на девяти французских бенчмарках для классификации, семантического сходства и переранжирования. Для запросов в поиске авторы рекомендуют добавлять префикс «query : », тогда как пассажи можно подавать без специальной инструкции. Лицензия — MIT. Карточка приводит результаты бенчмарков, но не описывает ограничения по тематике или гарантии качества на других языках и типах текстов; показатели на французских наборах не гарантируют аналогичную точность в иных сценариях.

SPLADE-v3-DistilBERT — разреженный энкодер для семантического поиска и извлечения документов, опубликованный Naver. Модель кодирует предложения и абзацы в разреженные векторы размерностью 30 522; релевантность оценивается скалярным произведением. Архитектура основана на DistilBERT с маскированной языковой моделью и max-пулингом SPLADE. Максимальная длина последовательности — 512 токенов; в режиме воспроизведения оценки используется 256. Модель предназначена для построения поисковых систем и ранжирования документов по запросу. В карточке приведены результаты на MS MARCO dev (MRR@10 38,7) и BEIR-13 (средний nDCG@10 50,0). Поддерживается английский язык. Доступна по лицензии CC BY-NC-SA 4.0, которая требует указания авторства и распространения производных материалов на тех же условиях и ограничивает коммерческое использование.

StarCoderBase — авторегрессионная модель генерации кода, разработанная проектом BigCode. Она содержит 15,5 млрд параметров и обучена на 1 трлн токенов исходного кода из The Stack v1.2 на более чем 80 языках программирования. Архитектура основана на GPT-2 с Multi-Query Attention; модель обучалась с задачей Fill-in-the-Middle и принимает контекст до 8192 токенов. Модель предназначена для продолжения кода по контексту, генерации фрагментов и заполнения пропусков между частями кода. Это базовая модель, а не модель, настроенная на выполнение инструкций: запросы на естественном языке могут работать хуже, чем подсказки с кодом или специальный промпт Tech Assistant. Русский язык не указан как основной язык модели; при этом в обучающих данных преобладает английский исходный код. Сгенерированный код может содержать ошибки, быть неэффективным или уязвимым и не гарантированно работает как задумано. Модель может воспроизводить фрагменты кода из обучающих данных, поэтому необходимо проверять происхождение кода и соблюдать применимые требования атрибуции и лицензирования. Указана лицензия BigCode OpenRAIL-M.

StructLM-34B — языковая модель TIGER-Lab для задач grounding по структурированным знаниям. Это плотная авторегрессионная модель семейства Llama с 33,5 млрд параметров, дообученная на инструкционном наборе TIGER-Lab/SKGInstruct, который объединяет 19 задач со структурированными знаниями и SlimOrca. Модель принимает линеаризованные структурированные данные и инструкции, а ответ формирует в текстовом виде; для версии 34B в README приведён специальный формат промпта. Контекст — до 16 384 токенов. Модель предназначена для вопросов и рассуждений по таблицам, графам знаний и другим структурированным входам, включая генерацию SQL, ответы по графам знаний и проверку утверждений по таблицам. В приведённых авторами оценках StructLM-34B показала результаты на наборах ToTTo, GrailQA, CompWebQ, MMQA, Feverous, Spider, TabFact, DART, BIRD, InfoTabs, FinQA и SQA. README предупреждает, что качество в этой области остаётся сложной задачей и модель может быть недостаточно надёжной для непосредственного использования в чате и других приложениях. Лицензия — MIT.

Модель nsugianto/tblstructrecog_finetuned_tbltransstrucrecog_v1_s1_370s — дообученная версия microsoft/table-transformer-structure-recognition для обнаружения структурных элементов таблиц на изображениях документов. Она использует архитектуру Table Transformer на базе DETR и содержит 6,3 млн параметров. Модель может находить строки, столбцы и другие элементы структуры таблицы; библиотека Transformers и формат весов safetensors указаны в метаданных. Модель подходит для извлечения структуры таблиц из документов и последующего преобразования её в машиночитаемое представление. Она опубликована под лицензией MIT. Датасет дообучения, результаты оценки и подробные сведения об ограничениях в карточке не описаны.

TraiNC/vlm_ocr_lora — дообученная TraiNC модель на базе мультимодальной Qwen3.5-0.8B от Unsloth. Она предназначена для задач «изображение-текст», в частности для OCR и извлечения текста с изображений и документов. Архитектура — плотная Qwen3.5 с поддержкой зрения; репозиторий содержит веса Safetensors. Модель рассчитана на англоязычные сценарии. Модель принимает изображения и текстовые запросы, а выдаёт текст. Она может подойти для распознавания текста на изображениях, извлечения полей из документов и прототипирования OCR-процессов. В карточке указаны лицензия Apache-2.0 и дообучение с использованием Unsloth и библиотеки TRL; параметры контекста и результаты оценки качества не приведены.

xlmr-multilingual-sentence-segmentation — модель Igor Sterner для автоматического разделения текста на предложения. Это дообученная XLM-RoBERTa-base с классификационной головой для разметки токенов; она обучалась на искажённой версии датасетов Universal Dependencies. Модель содержит 305,2 млн параметров, принимает текст с контекстом до 514 токенов и распространяется под лицензией MIT. Модель предназначена для определения границ предложений во многих языках, в том числе при сегментации текстов и машинных переводов. В README приведены результаты на Opus100 и Universal Dependencies; для первой оценки указаны precision 0,9664, recall 0,9677 и F1 0,9670 на также искажённом наборе. Автор предупреждает, что модель больше не поддерживается и рекомендует обновлённую версию. Результаты на искажённых данных следует интерпретировать с осторожностью.

zen-vl-8b-agent-i1-GGUF — это мультимодальная vision-модель для задач image-text-to-text, основанная на zenlm/zen-vl-8b-agent. Исходная модель разработана командой ZenLM, а данная версия квантизирована mradermacher и распространяется в формате GGUF. В карточке указано, что модель предназначена для работы с изображениями и текстом; заявленный язык — английский. Модель относится к классу примерно 8-миллиардных параметров, однако точные сведения об архитектуре, размере контекста и поддерживаемых модальностях помимо изображений и текста в README не приведены. Доступны многочисленные варианты квантизации, включая IQ- и Q-серии, размером примерно от 2,2 до 6,8 ГБ. В README отмечено, что варианты IQ часто предпочтительнее сопоставимых обычных вариантов, а Q4_K_M рекомендован как быстрый вариант с хорошим соотношением размера, скорости и качества. Основные преимущества — мультимодальная обработка изображений, широкий выбор размеров GGUF-файлов и возможность подбора компромисса между качеством, скоростью и требованиями к памяти. Ограничения связаны с потерями качества при низкобитной квантизации; для работы vision-модели могут потребоваться отдельные mmproj-файлы из статического репозитория. Лицензия модели указана как Apache-2.0.

AutoCoder_QW_7B — разговорная модель для генерации кода, основанная на CodeQwen1.5-7b. Разработчик сообщает, что в этой версии исправлено поведение запуска интерпретатора кода: модель должна запускать его не только по просьбе проверить код. Для простого создания кода без интерпретатора README предлагает отдельный сценарий использования. Модель построена на архитектуре Qwen2 и содержит 6,9 млрд параметров; заявленное максимальное окно контекста — 65 536 токенов. Она принимает текст и выдаёт текст, поддерживает чат и распространяется в формате Safetensors. Лицензия — Apache-2.0. README не уточняет поддерживаемые языки программирования и языки общения, а также не приводит результатов оценки качества.

boltuix/bert-mid — компактная англоязычная модель BoltUIX на архитектуре BERT, дообученная на основе google/bert-base-uncased. Она использует двунаправленный Transformer и обучалась предсказывать замаскированные токены и отношения между предложениями; в метаданных указано 14,1 млн параметров и контекст до 512 токенов. Модель предназначена для заполнения пропусков в тексте и как основа для дообучения под классификацию последовательностей и токенов, извлечение ответов и распознавание текстовых отношений. Подходит для анализа тональности, распознавания именованных сущностей, определения намерений и задач естественного языкового вывода. По карточке, модель оценивалась на GLUE и обучалась на BookCorpus и английской Wikipedia. Репозиторий содержит веса safetensors; лицензия — MIT. Модель рассчитана на английский язык и не предназначена для генерации связного текста или задач на других языках без существенного дообучения. Она может наследовать смещения из обучающих данных, а для очень ограниченных устройств может потребоваться дополнительная оптимизация.

Cadence — мультиязычная модель AI4Bharat для восстановления пунктуации в тексте, в том числе в расшифровках речи. Она основана на Gemma 3 1B: модель преобразована в двунаправленный энкодер и дообучена на больших текстовых корпусах. В Hugging Face она представлена с задачей token-classification и весами Safetensors; лицензия — MIT. Модель обрабатывает английский и 22 индийских языка, учитывая особенности разных письменностей. Она предсказывает точки, запятые, вопросительные и восклицательные знаки, кавычки, скобки и другие знаки. Один экземпляр работает с разными языками без отдельного указания языка; доступны пакетная обработка и скользящее окно для длинных текстов. Cadence подходит для восстановления пунктуации в текстах и речевых транскриптах на поддерживаемых языках. Для длинных входов поведение зависит от настройки скользящего окна: без неё текст длиннее максимальной длины обрезается. Токенизатор плохо поддерживает письмо мейтей; для манипури README рекомендует транслитерацию в бенгальское письмо. Для языков вне официального списка качество может различаться.

Salesforce CodeGen-Mono 350M — авторегрессионная языковая модель для генерации программного кода. Это версия семейства CodeGen, содержащая 350 млн параметров и использующая плотную архитектуру CodeGenForCausalLM; модель работает в формате PyTorch и принимает контекст длиной до 2048 токенов. Модель дообучена на Python: она инициализирована весами CodeGen-Multi 350M и затем предварительно обучена на наборе BigPython, содержащем 71,7 млрд токенов Python. Основной сценарий — генерация исполняемого кода по подсказкам на английском языке, оформленным как комментарии, а также продолжение частично написанного кода. Модель оценивалась на HumanEval и MTPB. Модель выпущена Salesforce по лицензии BSD 3-Clause. Авторы позиционируют её как исследовательскую разработку и рекомендуют отдельно оценивать точность, безопасность и справедливость перед применением. Она специализирована на Python и не оценивалась для всех возможных прикладных сценариев.

Cohere Transcribe — открытая модель автоматического распознавания речи, разработанная Cohere и Cohere Labs. Эта GGUF-версия представляет собой квантованные конвертации базовой модели CohereLabs/cohere-transcribe-03-2026 для запуска с помощью transcribe.cpp. Модель предназначена для офлайн-преобразования речи в текст и принимает монофонические WAV-файлы с частотой дискретизации 16 кГц. Она поддерживает 14 языков: английский, французский, немецкий, испанский, итальянский, португальский, нидерландский, польский, греческий, арабский, японский, китайский, вьетнамский и корейский. Архитектура основана на Conformer-энкодере и Transformer-энкодер-декодере с cross-attention и связанными эмбеддингами токенов; размер модели составляет около 2 млрд параметров, декодирование выполняется авторегрессионно. Доступны варианты BF16, F16, Q8_0, Q6_K, Q5_K_M и Q4_K_M размером примерно от 1,56 до 4,11 ГБ. На тесте LibriSpeech test-clean заявленная ошибка распознавания составляет около 1,24–1,27% в зависимости от квантования, что указывает на высокую точность для английской речи. Ограничения включают отсутствие потокового режима, встроенного перевода, автоматического определения языка и временных меток; модель предназначена именно для распознавания, а не для перевода речи. Для работы требуется transcribe.cpp, а аудио при необходимости нужно предварительно привести к формату 16 кГц, mono WAV. Модель и конвертации распространяются по лицензии Apache-2.0, унаследованной от базовой модели.

Contextual AI Reranker v2 1B — мультиязычная модель переранжирования текста, разработанная Contextual AI. Она предназначена для повторной сортировки документов, найденных поисковой или retrieval-системой, с учётом запроса и пользовательских инструкций. Модель подходит для вопросно-ответных систем, мультиязычного поиска, рекомендаций и продуктового поиска, а также для сценариев, где требуется учитывать противоречия между документами или отдавать приоритет более свежей информации. Модель содержит около 1 млрд параметров, поддерживает более 100 языков и контекст длиной до 32K токенов. Её ключевая особенность — следование инструкциям при ранжировании: например, можно указать приоритет последних исследований или другого критерия отбора. В README заявлены высокие результаты на BEIR и выгодное соотношение стоимости и качества, однако конкретные значения бенчмарков не приведены. Модель ориентирована на текстовые задачи и требует специального инференс-процесса с vLLM или Transformers; для production рекомендуется vLLM. Ограничения включают зависимость от совместимых версий библиотек и аппаратных режимов, а также лицензию CC-BY-NC-SA-4.0, которая ограничивает коммерческое использование и предусматривает условия Attribution и ShareAlike.

DeepSeek-V4.1-Flash-MLX-mixed-4_8bit-engram6 — сборка модели DeepSeek-V4.1-Flash для MLX и компьютеров на Apple Silicon. Модель разработана на базе DeepSeek-V4.1-Flash; данная сборка подготовлена PipeNetwork. Это текстовая модель для генерации текста, работающая через специальный порт deepseek-v41-mlx, поскольку стандартные transformers, mlx-lm и mlx-vlm её не поддерживают. Модель содержит около 754,6 млрд параметров и использует архитектуру mixture-of-experts: 40 слоёв и 384 маршрутизируемых эксперта в каждом слое. В ней применяются MLA с межслойным совместным использованием KV-кэша, двухслойные hashed n-gram engram-эмбеддинги, hyper-connections и attention sinks. Экспертные блоки квантизированы до 4 бит, attention, общие компоненты и эмбеддинги — до 8 бит, а таблицы engram — до 8 бит с группами по 64 элемента; отдельные компоненты сохранены в bf16 или fp32. Vision tower и aligner присутствуют, но среда выполнения в этой сборке поддерживает только текст. Контекст модели и поддерживаемые языки в README не указаны. Размер файлов составляет около 476,8 ГБ, поэтому для запуска требуется компьютер с примерно 1 ТБ оперативной памяти; модель не помещается в 512 ГиБ с учётом рабочих активаций. Сборка прошла проверку на соответствие эталонной реализации DeepSeek, включая кэшированный и поэтапный вывод. Указанные измерения показывают небольшое расхождение с bf16-версией при смешанном 4/8-битном квантовании, однако полноценная perplexity для этой сборки не измерена. Модель распространяется по лицензии MIT; для загрузки необходим специализированный порт PipeNetwork.

DuckDB-NSQL-7B-v0.1 — авторегрессионная языковая модель семейства NSQL, разработанная MotherDuck на базе Meta Llama 2 7B. Модель дополнительно предварительно обучена на общих SQL-запросах и дообучена на парах «естественный язык — DuckDB SQL». По метаданным, она содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; длина контекста — 16 384 токена. Модель предназначена для генерации SQL по описанию задачи на естественном языке и схеме таблиц. В отличие от систем, ограниченных запросами SELECT, она может генерировать допустимые операторы DuckDB, включая запросы для официальных расширений DuckDB. В обучающих данных — 200 тысяч синтетических пар DuckDB text-to-SQL, созданных с опорой на документацию DuckDB 0.9.2, а также преобразованные в DuckDB SQL примеры NSText2SQL. Оценка описана на специализированном бенчмарке из 75 пар. Для работы рекомендуется формат промпта из карточки модели. Модель унаследовала лицензию Llama 2; перед использованием необходимо соблюдать её условия и условия Meta для базовой модели.

DUSUNEN Rota 270M v2 — плотная турецкоязычная модель для поиска похожих предложений и извлечения релевантных документов. Её разработал GoktugD, продолжив дообучение DUSUNEN Rota 270M v1 на 50 000 триплетах с трудными негативными примерами. Модель содержит около 257 млн параметров, построена на архитектуре Gemma 3 Text и выдаёт векторные представления размерности 640; метаданные указывают контекст до 32 768 токенов, однако в обучении использовалась длина последовательности 256. Модель предназначена для семантического поиска на турецком языке, ранжирования результатов и подбора кандидатов для RAG. В пяти тестах поиска v2 показала небольшое стабильное улучшение относительно v1, но уступила multilingual E5 по общему результату и превзошла его только на MKQA в указанной матрице. Весы опубликованы в формате safetensors; лицензия — MIT.

Alibaba-NLP/E2Rank-4B — модель для текстовых эмбеддингов и спискового переранжирования, разработанная Alibaba-NLP на основе Qwen3-4B. Она преобразует запросы и документы в векторы, которые можно сопоставлять по косинусному сходству для поиска и ранжирования. При переранжировании список кандидатов включается в специальный запрос, чтобы учесть взаимный контекст документов. Модель имеет плотную архитектуру Qwen3, около 3,7 млрд параметров, размер эмбеддинга 2560 и контекст до 40 960 токенов. Карточка описывает её как поддерживающую инструкции; модель обучена для эмбеддингов и переранжирования. Авторы сообщают о результатах на BEIR и MTEB, но это не гарантирует аналогичного качества на конкретных данных. Для получения эмбеддингов нужно вручную добавлять специальный токен в конец каждого входного текста. Модель подходит для поисковых систем и RAG-конвейеров, где нужны извлечение документов и последующее ранжирование кандидатов. В README приведены англоязычные результаты бенчмарков; поддержка других языков в предоставленных данных не подтверждена. Лицензия — Apache-2.0.

dleemiller/finecat-nli-s — англоязычная модель для распознавания логических отношений между парами текстов: следования, нейтральности и противоречия. Она основана на энкодере jhu-clsp/ettin-encoder-68m и дообучена на наборе FineCat-NLI; при обучении также использовалась дистилляция логитов от dleemiller/finecat-nli-l. Архитектура — ModernBERT для классификации последовательностей, размер — 68,1 млн параметров, библиотека — Sentence Transformers, формат весов — safetensors. Контекст модели составляет 7999 токенов. Модель предназначена для NLI и классификации текстовых пар; её можно применять для проверки гипотез по текстовым предпосылкам и оценки того, поддерживает ли документ утверждение, не связан ли он с ним или противоречит ему. В README приведены результаты на нескольких NLI-наборах, включая MNLI, SNLI и ANLI. Метаданные также указывают поддержку sentence similarity и эмбеддингов. Заявленная языковая поддержка — английский. Метаданные не содержат сведений о лицензии, поэтому условия распространения и коммерческого использования следует проверить в карточке модели на Hugging Face.

Functionary Medium v3.2 — языковая модель команды MeetKai для диалогов с вызовом функций и инструментов. Она основана на Meta-Llama-3.1-70B-Instruct и использует плотную архитектуру LlamaForCausalLM; в репозитории указаны 69,5 млрд параметров и контекст до 131 072 токенов. Модель принимает описания функций в формате JSON Schema, решает, когда вызывать их, и поддерживает последовательные и параллельные вызовы. Она может анализировать результаты инструментов и формировать на их основе ответы, а также отвечать без вызова функций, когда инструменты не нужны. В README также заявлена поддержка code interpreter. Для удобного разбора вызовов функций авторы предоставляют собственный код; запуск рекомендуется через OpenAI-совместимый сервер vLLM. Модель подходит для создания чат-ассистентов, которые обращаются к API, инструментам и интерпретатору кода. Репозиторий содержит веса в формате safetensors, лицензия — MIT. Карточка не сообщает конкретных сведений о языковом покрытии или результатах сравнительных оценок.

gliner2-large-v1-redocred — модель извлечения информации на базе GLiNER2, разработанная whr778 и дообученная от fastino/gliner2-large-v1 на наборе Re-DocRED. Она предназначена для извлечения именованных сущностей и отношений между ними в англоязычных документах; карточка также относит её к задачам извлечения событий и классификации. Набор Re-DocRED содержит 6 типов сущностей и 96 типов отношений. В слепом тесте F1 для сущностей составил 0,860 при строгой и 0,907 при расслабленной оценке; для отношений — 0,287 и 0,350 соответственно. Низкий recall отношений (0,186 строго, 0,227 расслабленно) ограничивает полноту извлечения. Модель работает с текстом и распространяется в формате safetensors; лицензия указана как other, поэтому перед использованием следует проверить условия в карточке модели.

Карточка модели HiTZ/GoLLIE-13B на Hugging Face совпадает с карточкой KaraKaraWitch/HiTZ-GoLLIE-13B-AsSafeTensors, поэтому описание составлено по ней. GoLLIE 13B — языковая модель для извлечения информации, разработанная Оскаром Саинсом, Икером Гарсия-Ферреро, Родриго Агерри, Ойером Лопесом де ла Калье, Германом Ригау и Энеки Агирре из центра HiTZ Университета Страны Басков. Это плотная авторегрессионная модель семейства LLaMA с 12,9 млрд параметров и контекстом до 16 384 токенов, представленная в формате Safetensors и дообученная на основе CODE-LLaMA2. Модель предназначена для извлечения именованных сущностей, событий и отношений по заданным схемам. Она следует подробным инструкциям и определениям разметки, поэтому подходит для zero-shot задач и позволяет задавать схему извлечения во время работы, в том числе для ранее не встречавшихся задач. В карточке приведены результаты на английском языке: средний F1 56,0 для zero-shot и 73,9 для supervised оценки GoLLIE-13B. Основной язык модели — английский. Модель генерирует текст, поэтому извлечённые результаты выдаются в текстовом формате по схеме пользователя. Для базовой модели и объединённой модели указана лицензия LLaMA 2; LoRA-адаптеры проекта распространяются по Apache 2.0. Результаты и поддерживаемые схемы зависят от формулировки инструкций и качества заданных определений.

allenai/ivila-block-layoutlm-finetuned-docbank — модель Allen Institute for AI (AI2) для классификации токенов в научных документах с учётом их визуальной структуры. Она основана на архитектуре LayoutLM и дообучена на наборе DocBank; вариант block обрабатывает документные блоки. Модель рассчитана на разметку текстовых фрагментов в научных статьях, например для определения типов элементов страницы. Модель имеет 136,7 млн параметров, принимает последовательности длиной до 512 токенов и поддерживает английский язык. Карточка указывает задачу token classification и формат PyTorch. Применение возможно через Transformers. Сведения о лицензии и конкретных ограничениях качества в доступных источниках не приведены.