I.3Извлечение и структурирование данных

Модель badokorach/distilbert-base-cased-distilled-agric-060124_1 — дообученная версия DistilBERT для ответа на вопросы по переданному текстовому контексту. Она основана на distilbert-base-cased-distilled-squad и предназначена для извлечения ответа из контекста в формате задачи question-answering. Модель опубликована в формате TensorFlow и рассчитана на контекст до 512 токенов. В карточке указаны значения train loss 0,5748 и validation loss 0,0 после 14 эпох, однако набор данных и методика оценки не описаны, поэтому эти результаты не позволяют надёжно судить о качестве. Модель распространяется по лицензии Apache-2.0; описание не содержит дополнительных сведений о предметной специализации или ограничениях применения.

badokorach выпустил дообученную модель DistilBERT для поиска ответа на вопрос в предоставленном тексте. Она основана на distilbert/distilbert-base-cased-distilled-squad и предназначена для сценариев вопросно-ответного поиска, например извлечения ответа из фрагмента документа. Модель использует плотную архитектуру DistilBERT, принимает текст и рассчитана на контекст до 512 токенов. В карточке указаны результаты обучения на неизвестном наборе данных: train loss 0,8057, validation loss 0,0 за 14 эпох. Данные о качестве на конкретных задачах и целевых языках не приведены. Модель распространяется в формате TensorFlow по лицензии Apache-2.0.

kaouther/distilbert-base-uncased-finetuned-squad — модель на базе DistilBERT, дообученная на наборе данных SQuAD для ответов на вопросы по предоставленному тексту. Она принимает вопрос и контекст и предсказывает ответ, извлечённый из контекста. Модель поддерживает английский язык и рассчитана на контекст до 512 токенов; опубликована в формате PyTorch. Модель подходит для поиска ответов в статьях, справочных материалах и других англоязычных текстах. В карточке приведён результат оценки на тестовой выборке SQuAD: loss 1,1703. Лицензия — Apache-2.0. Подробности о точности на иных данных и дополнительных ограничениях в карточке не приведены.

Это англоязычная модель ответов на вопросы, созданная как воспроизведение варианта DistilBERT из статьи DistilBERT. Студент distilbert-base-uncased дообучен на SQuAD v1.1 с дополнительной дистилляцией от модели lewtun/bert-base-uncased-finetuned-squad-v1, также настроенной на SQuAD. Репозиторий содержит веса PyTorch; архитектура в метаданных указана как DistilBertForMaskedLM, хотя README описывает модель для ответов на вопросы. Модель предназначена для извлечения ответа на вопрос из предоставленного текста на английском языке, например для поиска факта в документе или ответа по статье. Контекст ограничен 512 токенами. В README приведены результаты на SQuAD: Exact Match 78,4 и F1 86,5. Модель распространяется по лицензии Apache-2.0.

Модель quynguyen1704/distilbert-finetuned-squad_v2 — дообученная версия DistilBERT для задачи question answering. Она предназначена для извлечения ответа на вопрос из предоставленного текста; архитектура — DistilBertForQuestionAnswering, базовая модель — distilbert/distilbert-base-uncased. Контекст ограничен 512 токенами, веса доступны в формате safetensors. Модель основана на англоязычной uncased-версии DistilBERT и подходит для англоязычных фрагментов текста. Лицензия — Apache-2.0. В карточке не приведены сведения о датасете дообучения, оценке качества и известных ограничениях.

ahotrod/electra_large_discriminator_squad2_512 — модель на базе архитектуры ELECTRA Large, предназначенная для извлечения ответов на вопросы из предоставленного текста. Репозиторий содержит около 433,9 млн параметров; модель поддерживает контекст длиной до 512 токенов и доступна в форматах PyTorch и TensorFlow. В карточке приведены результаты оценки на SQuAD 2.0: exact match 87,1 и F1 90,0 на 11 873 примерах, включая вопросы без ответа в контексте. Модель подходит для систем вопросно-ответного поиска по документам и текстовым фрагментам, когда ответ требуется извлечь из источника. Для работы нужно передавать текст контекста вместе с вопросом; длина контекста ограничена 512 токенами. Карточка не сообщает об отдельном языковом наборе данных или лицензии, поэтому языковую применимость и условия распространения по имеющимся материалам определить нельзя.

sapkotapraful/FullyOCR-2-dev — дообученная с помощью TRL модель на базе unsloth/Qwen3.5-0.8B. По метаданным это плотная мультимодальная модель семейства Qwen3.5 с архитектурой Qwen3_5ForConditionalGeneration, предназначенная для обработки изображений с формированием текстового ответа. В карточке Hugging Face указана задача image-text-to-text и возможность работы с изображениями. Модель можно применять для извлечения текста и сведений из изображений, а также для вопросов и ответов по визуальным материалам. README содержит пример диалоговой генерации текста, но не описывает специализированные OCR-возможности, обучающие данные, качество распознавания, поддерживаемые языки или длину контекста. Репозиторий использует формат safetensors и библиотеку Transformers. Сведения о лицензии в предоставленных источниках отсутствуют.

Это преобразованная для MLX версия мультимодальной модели alexgusevski/Huihui-Qwen3-VL-8B-Instruct-abliterated-mlx, основанной на Qwen/Qwen3-VL-8B-Instruct. По метаданным это плотная модель Qwen3-VL с архитектурой Qwen3VLForConditionalGeneration и примерно 8 млрд параметров; README сообщает о конвертации исходной модели huihui-ai/Huihui-Qwen3-VL-8B-Instruct-abliterated с помощью mlx-vlm 0.3.10. Модель предназначена для диалога по тексту и изображениям, включая описание и визуальный анализ. Семейство Qwen3-VL также поддерживает анализ видео, OCR и визуальное рассуждение. В метаданных указана задача image-text-to-text и возможности chat и vision; языки и длина контекста в предоставленных данных не установлены. Модификация abliterated помечена в тегах как uncensored. Такие метки не гарантируют качество или безопасность ответов. Модель распространяется по лицензии Apache-2.0; для использования с MLX README указывает библиотеку mlx-vlm.

BAAI разработала IndustryCorpus2_Classifier для отнесения текстов к одной из 31 укрупнённой отраслевой категории, согласованной с классификацией отраслей национальной экономики Китая и адаптированной для китайского и английского языков. Модель построена на BGE-M3 с архитектурой XLM-RoBERTa и классификационной головой; она дообучена на 36 тысячах примеров, сформированных из предобучающих корпусов и открытых наборов классификации. Метаданные указывают 658,7 млн параметров и контекст до 8194 токенов. Модель предназначена для автоматической отраслевой разметки текстов и сортировки документов по категориям. В README сообщается о точности 86% на проверочной выборке; обучающие данные включали китайские и английские тексты в равных долях. Репозиторий содержит веса Safetensors и распространяется по лицензии Apache-2.0. Показатели качества относятся к описанной проверочной выборке, поэтому качество на других корпусах может отличаться.

OpenGVLab/InternVL3_5-2B-HF — мультимодальная модель семейства InternVL3.5 в формате Hugging Face Transformers. По архитектуре InternVLForConditionalGeneration она принимает изображения и текст, а отвечает текстом; поддерживает диалоговый режим. Семейство разработано OpenGVLab и использует каскадное обучение с подкреплением для улучшения рассуждений, а также динамическую настройку разрешения визуальных токенов для эффективной обработки изображений. Модель предназначена для вопросов по изображениям, визуального анализа, распознавания текста на изображениях и мультимодальных задач на рассуждение. Карточка описывает возможности семейства, включая взаимодействие с графическими интерфейсами и агентные сценарии, но не приводит отдельных подробностей для варианта 2B. Метаданные указывают дообучение на OpenGVLab/InternVL3_5-4B-MPO и лицензию Apache-2.0; доступный чекпойнт использует safetensors и библиотеку Transformers. Размер контекста и конкретный перечень поддерживаемых языков в предоставленных данных не указан.

MarcBrun/ixambert-finetuned-squad-eu — модель семейства BERT, полученная дообучением ixambert-base-cased для извлечения ответов на вопросы из текста. Она предназначена для базовых фактологических вопросов по предоставленному контексту и обучена и оценивалась на экспериментальной баскской версии SQuAD 1.1 размером примерно в треть исходного набора. Модель поддерживает английский, испанский и баскский языки; размер составляет 204,7 млн параметров, контекст — до 512 токенов. На вход подаются вопрос и контекст, а на выходе модель возвращает фрагмент текста с ответом, его начальную и конечную позиции в контексте и оценку уверенности для этого фрагмента. Это ограничивает её применимость задачами извлечения ответа из данного текста: она не предназначена для генерации развернутых ответов и может ошибаться на вопросах, не покрытых обучающими данными. Условия лицензии в предоставленных сведениях не приведены.

Labira/LabiraPJOK_5x_50 — дообученная модель семейства BERT для ответов на вопросы. Она создана на основе Labira/LabiraPJOK_3x_50 и сохранена в формате TensorFlow; число параметров — 137,8 млн, максимальная длина контекста — 512 токенов. Карточка сообщает о дообучении на неизвестном наборе данных и приводит результаты обучения: loss на обучающей выборке 0,0274, validation loss 3,1328 после 44 эпох. Модель предназначена для извлечения ответа из текста по заданному вопросу. README не описывает обучающие данные, целевую область или ограничения применения, поэтому качество и пригодность для конкретных сценариев по приведённым метрикам оценить нельзя. Лицензия — MIT.

Это модель распознавания именованных сущностей в юридических текстах на бразильском португальском языке. Её разработал dominguesm, дообучив dominguesm/legal-bert-base-cased-ptbr на задаче классификации токенов. Модель построена на BERT, содержит 136,1 млн параметров и обрабатывает контекст длиной до 512 токенов. Модель выделяет людей, организации, места, временные выражения, законодательные акты и судебную практику. Она предназначена для анализа юридических документов, исследований в области обработки естественного языка и правовых технологий. В README приведены тестовые метрики: общие precision 0,943, recall 0,961 и F1 0,952. Для обучения использовались юридические документы, предоставленные Федеральным верховным судом Бразилии на условиях LREC 2020. Автор предупреждает о возможной проблеме pipeline с максимальной длиной входной последовательности. Модель распространяется по лицензии CC BY 4.0.

LFM2-350M modular export — компактная гибридная языковая модель Liquid AI с сочетанием свёрточных слоёв и attention. Репозиторий содержит экспорт исходной модели LiquidAI/LFM2-350M в самодостаточный формат GGUF для loom.cpp; README сообщает, что веса не изменялись, а метаданные классифицируют связь с базовой моделью как дообучение. Модель предназначена для генерации текста и запуска через библиотеку loom-py-rt. Экспорт включает топологии слоёв, токенизатор (если он есть) и скрипт драйвера. Заявлены английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Базовая модель описывается как компактная модель для диалогов, извлечения данных и RAG на периферийных устройствах. Репозиторий использует лицензию с меткой other; конкретные условия следует сверить с файлами лицензии модели.

ZuzeTt/LFM2.5-1.2B-Instruct-imatrix-GGUF — квантованный вариант текстовой instruct-модели LFM2.5-1.2B-Instruct, разработанной Liquid AI; репозиторий ZuzeTt основан на базовой модели LiquidAI/LFM2.5-1.2B-Base. Модель предназначена для локального и периферийного развертывания, включая agentic-задачи, извлечение данных, RAG и общее следование инструкциям. Формат GGUF ориентирован на llama.cpp и совместимые инструменты, CPU-инференс и снижение потребления памяти. Модель содержит 1,17 млрд параметров, 16 слоёв: 10 double-gated LIV convolution blocks и 6 GQA blocks. Она поддерживает только текстовые данные, контекст до 32 768 токенов и языки: английский, арабский, китайский, французский, немецкий, японский, корейский и испанский. Заявлены скорость декодирования до 239 токенов в секунду на AMD CPU и 82 токенов в секунду на мобильном NPU, а также работа менее чем с 1 ГБ памяти; эти показатели зависят от оборудования и конфигурации. Сильные стороны модели — малый размер, высокая скорость локального инференса, многоязычность, поддержка ChatML-подобного шаблона и function calling. Модель не рекомендуется для задач, требующих обширных фоновых знаний, и программирования; дата отсечения знаний — середина 2024 года. Указана лицензия lfm1.0; дополнительные условия следует уточнять в файле LICENSE.

spitfire4794/LFM2-700M-Heretic — производная модель на основе LiquidAI/LFM2-700M, созданная изменением поведения отказов методом abliteration. По приведённому сравнению доля отказов снизилась с 84 до 8 на 100 запросов; модель сохраняет отклонение от исходной модели, измеренное как KL divergence 0,123. Это компактная гибридная языковая модель семейства LFM2 с 956,3 млн параметров и контекстом до 128 000 токенов по метаданным. Архитектура LFM2 сочетает короткие свёрточные блоки и блоки группового внимания. Модель предназначена для генерации текста и диалогов, включая сценарии локального запуска и периферийных устройств, а также извлечение данных, RAG, творческое письмо и агентные задачи. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Базовая карточка рекомендует компактные модели LFM2 для узких прикладных задач и предостерегает от использования в задачах с интенсивной потребностью в знаниях или программировании. В метаданных указана лицензия other; конкретные условия следует сверять с лицензией репозитория. Модель позиционируется как менее склонная к отказам, поэтому её ответы могут охватывать запросы, которые исходная модель отклоняет.

Ba2han/lfm-sft — дообученная мультимодальная модель на базе LiquidAI/LFM2.5-VL-1.6B, опубликованная автором Ba2han. Она предназначена для диалога с изображениями и ответов на текстовые запросы с учётом визуального содержимого. Базовая модель Liquid AI поддерживает распознавание текста и ответы на вопросы по изображениям и документам. Модель использует архитектуру LFM2-VL и распространяется в формате safetensors для библиотеки Transformers. Данные обучения, специализированное назначение и оценка качества в карточке не раскрыты. Лицензия указана как other; конкретные условия использования следует проверить в файлах репозитория.

alpindale/Llama-3.2-11B-Vision-Instruct — мультимодальная инструктивная модель, опубликованная alpindale на основе модели Meta Llama 3.2-Vision. Это плотная авторегрессионная трансформерная модель семейства mllama с 11 млрд параметров: она обрабатывает текст и изображения и генерирует текст. Визуальный адаптер с перекрёстным вниманием передаёт представления изображения в языковую модель; для запуска используется библиотека Transformers. Модель подходит для визуального распознавания и рассуждений по изображениям, создания подписей, ответов на вопросы об изображениях и диалога с визуальным контекстом. Среди заявленных сценариев также ответы по изображениям документов, поиск соответствий между изображениями и текстом и визуальная привязка описаний к областям изображения. Контекст составляет до 128 тыс. токенов. Для задач с изображениями заявлена поддержка английского; для текстовых задач поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель рассчитана на коммерческое и исследовательское применение. В README указана лицензия Llama 3.2 Community License — специальное лицензионное соглашение с условиями использования и Acceptable Use Policy; перед внедрением следует ознакомиться с ними. Модель статична, обучена на офлайн-данных; заявленная дата отсечения знаний — декабрь 2023 года. README описывает семейство моделей Meta и не подтверждает конкретные изменения, внесённые alpindale в эту копию.

MiniCPM-V-2_6-GGUF — набор GGUF-квантизованных версий мультимодальной модели MiniCPM-V-2_6, разработанной командой OpenBMB и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для задач image-text-to-text, включая анализ изображений, OCR, работу с несколькими изображениями и видео. Заявлена поддержка мультиязычных сценариев, однако конкретный перечень языков в представленном README не указан. Модели используют llama.cpp и квантизацию с применением imatrix; по заявлению автора, это должно улучшать работу текстовой части модели. Доступны варианты от F16 размером 15,23 ГБ до низкобитных IQ2_M и Q2_K размером около 2,78–3,01 ГБ. Варианты Q6_K и Q6_K_L обеспечивают очень высокое качество, а Q4_K_M рекомендуется как компромисс между качеством и размером. Варианты с суффиксом L используют Q8_0 для embedding- и output-весов, что потенциально может повысить качество, но автор отмечает, что эффект зависит от практического использования. Модель подходит для локального запуска через llama.cpp и LM Studio при наличии совместимого оборудования; требуемые ресурсы зависят от выбранного варианта квантизации. README не содержит сведений о размере базовой модели в параметрах, длине контекста, точной архитектуре, ограничениях мультимодальных входов или результатах бенчмарков. Лицензия в представленном описании не указана.

Это 8-битная версия модели MOSS-Transcribe-Diarize, подготовленная для запуска через MLX. В README указано, что квантизован текстовый блок модели методом affine quantization с bits=8 и group_size=64; аудиоэнкодер Whisper и VQ-адаптер не квантизованы. По метаданным архитектура обозначена как плотная модель MossTranscribeDiarizeForConditionalGeneration, библиотека — MLX. Модель предназначена для распознавания речи и диаризации говорящих в аудиозаписях. Пример запуска из README принимает WAV-файл и сохраняет результаты в указанную папку. Метаданные также указывают поддержку генерации текста. Модель распространяется по лицензии Apache-2.0. Квантизация затрагивает только текстовый блок; README не приводит измерений качества или требований к ресурсам.

jidoren/mmbert-squad-v2 — модель для ответа на вопросы, построенная на архитектуре ModernBERT и представленная в формате Safetensors. В метаданных указано 306,9 млн параметров и контекст до 8192 токенов. Модель предназначена для извлечения ответа на вопрос из предоставленного текста; pipeline Hugging Face — question-answering. Карточка README не содержит дополнительного описания обучения, языков, датасетов или условий использования. Поэтому нельзя подтвердить поддержку русского языка или конкретную лицензию. Модель создана недавно и имеет ограниченную историю использования.

Модель разработана пользователем owaiskha9654 и предназначена для многометочной классификации статей PubMed по медицинским темам MeSH. В README описана тонкая настройка BioBERT на датасете PubMed_MultiLabel_Text_Classification_Dataset_MeSH с использованием transfer learning; также автор экспериментировал с RoBERTa и XLNet. Метаданные указывают на архитектуру BERT для классификации последовательностей, 135,5 млн параметров, контекст до 512 токенов и веса в форматах PyTorch и Safetensors. Модель принимает текст статьи и предсказывает несколько тематических меток, что подходит для автоматической индексации и тематической сортировки медицинской литературы. Указан английский язык. README не сообщает условия лицензии, поэтому условия использования определить по доступным данным нельзя; карточка также не содержит результатов оценки качества.

Skiuphill/my_awesome_qa_model — дообученная Skiuphill модель DistilBERT для ответа на вопросы. Она использует архитектуру DistilBertForQuestionAnswering и предназначена для извлечения ответа из текста по заданному вопросу. Контекст ограничен 512 токенами. Модель основана на distilbert/distilbert-base-uncased, работает с текстом на английском языке и сохранена в формате safetensors. В карточке указана оценка Loss 1.5332 на тестовой выборке, но набор данных и подробности оценки не описаны. Лицензия — Apache-2.0.

Это дообученная модель BERT Large Uncased от разработчика shubhamgantayat для классификации токенов. По названию модели она предназначена для обнаружения персональных данных (PII) в тексте; README не раскрывает метки, данные обучения или подробности оценки, поэтому точный перечень распознаваемых типов данных установить нельзя. Модель принимает текст и выдаёт метки для отдельных токенов. Модель содержит 433,9 млн параметров, использует архитектуру BertForTokenClassification и контекст длиной до 512 токенов. Базовая модель ориентирована на английский язык; отдельные сведения о языках обучения и оценки этой версии не приведены. Доступна в формате safetensors. Лицензия — Apache-2.0. README не описывает ограничения и рекомендуемые сценарии использования; качество распознавания и применимость к конкретным типам PII следует оценивать на целевых данных.

Это модель распознавания именованных сущностей в юридических текстах на португальском языке, разработанная Пьером Гийу. Она основана на BERT large и дообучена для классификации токенов на датасете LeNER-Br с использованием задачи NER. Модель предназначена для выделения юридически значимых сущностей в документах и других текстах правовой тематики. В карточке приведены результаты на валидационной выборке: F1 — 0,908, точность — 0,898, полнота — 0,919, accuracy — 0,981. Автор сообщает, что из-за небольшого объёма обучающей выборки модель переобучалась до завершения обучения. Размер модели составляет 433,2 млн параметров, максимальный контекст — 512 токенов; доступен формат PyTorch. В README также упоминается возможная проблема pipeline с параметром max_length. Лицензия в предоставленных данных не указана.

OpenMed-NER-AnatomyDetect-EuroMed-212M — модель OpenMed для распознавания анатомических сущностей в биомедицинском тексте. Это дообученный трансформер EuroBERT с архитектурой EuroBertForTokenClassification и примерно 211,7 млн параметров. Модель принимает токенизированный текст и выдаёт BIO-разметку, включая метки B-Anatomy и I-Anatomy; контекст составляет до 8192 токенов. Модель предназначена для извлечения анатомических структур и частей тела из клинических записей, медицинских документов и научной литературы. В README приведены показатели на датасете ANATOMY: F1 0,84, точность 0,86, полнота 0,82 и accuracy 0,97. Лицензия — Apache-2.0.

OpenMed-NER-PharmaDetect-BioPatient-108M — модель OpenMed для распознавания химических сущностей в биомедицинских текстах. Это дообученная модель на базе Bio_Discharge_Summary_BERT с архитектурой BERT и примерно 135,5 млн параметров. Она принимает токенизированный текст и присваивает токенам BIO-метки B-CHEM и I-CHEM, выделяя названия химических соединений, лекарств и терапевтических веществ. Модель предназначена для извлечения химических сущностей из медицинских записей, научных публикаций и других биомедицинских документов. Её можно применять для анализа упоминаний лекарств, мониторинга нежелательных явлений, поиска по литературе о разработке лекарств и подготовки данных для биомедицинских баз знаний. Обучение проводилось на BC5CDR_CHEM; README сообщает F1 0,96, точность 0,95 и полноту 0,97. Контекст ограничен 512 токенами, поэтому длинные документы нужно обрабатывать частями. Лицензия — Apache-2.0.

Ornith-1.5-35B-A3B-Vision-MTPLX-4bit — квантизированный производный релиз модели ornith-ai/Ornith-1.5-35B-A3B, опубликованный zwcf5200. Модель предназначена для задач преобразования изображений и текста в текст, включая визуальный анализ и чтение графиков, и рассчитана на запуск через MLX/oMLX на устройствах Apple Silicon. Она сохраняет штатную vision tower и одност layer MTPLX head для multi-token prediction и speculative decoding. В основе используется mixture-of-experts архитектура Qwen3_5MoeForConditionalGeneration с 35 млрд параметров, из которых примерно 3 млрд активируются на токен. Основная модель и runtime sidecar MTP выполнены в 4-битной affine-квантизации с размером группы 64; компоненты vision и нормализации используют BF16. В README указан английский язык, а поддержка контекстов продемонстрирована на длине до 32 768 токенов. Рекомендуемая глубина MTP для смешанных визуально-текстовых запросов — 2. Сильными сторонами являются мультимодальность, MoE-эффективность, снижение требований к памяти благодаря 4-битной квантизации и ускорение генерации с MTP примерно на 20–22% в локальных тестах на Mac Studio с M3 Ultra. При этом MTP увеличивает пиковое потребление памяти примерно на 1,7–1,75 ГБ, а результаты зависят от конфигурации, размера пакета и программного стека; приведённые показатели являются локальными измерениями, а часть тестов пакетной обработки не является контролируемым сравнением. Модель распространяется по лицензии MIT.

Parable-Nanbeige4.2-3B-Claude-Fable-5-heretic-GGUF — набор GGUF-квантизаций модели, разработанный FesarovLab на основе FedorFesarov/Parable-Nanbeige4.2-3B-Claude-Fable-5-heretic. Исходная модель представляет собой abliteration-сборку Claude Fable 5 fine-tune для Nanbeige4.2-3B; базовая модель разработана Nanbeige. Модель предназначена для генерации текста и запуска через llama.cpp и совместимые интерфейсы, включая LM Studio и Open WebUI. Модель поддерживает английский и китайский языки, использует текстовую модальность и архитектуру с 44 слоями KV-кэша. Заявлен контекст до 262144 токенов, однако большой контекст требует значительного объёма памяти; в README рекомендуется явно задавать размер контекста и при необходимости сжимать KV-кэш. Доступны варианты от Q2_K до Q8_0 и F16, размером примерно от 1,64 до 7,77 ГБ. Рекомендуемым компромиссом названа IQ4_XS-imat, а для более высокой точности — Q4_K_M-imat или варианты с более высокой разрядностью. Сильные стороны модели — компактность, высокая скорость GPU-инференса, поддержка reasoning-блоков <think>, структурированного JSON и XML-подобных вызовов инструментов. Для надёжного структурированного вывода рекомендуется использовать Q4_K_S или более качественные варианты, поскольку агрессивная квантизация может ухудшать соблюдение формата. IQ-квантизации могут быть медленнее на CPU, чем K-квантизации, а вариант Q2_K существенно теряет качество. Лицензия — Apache-2.0.

radlab/polish-qa-v2 — польскоязычная модель извлечения ответов на вопросы, разработанная radlab.dev. Она находит в предоставленном контексте наиболее подходящий фрагмент текста и возвращает его как ответ; модель дообучена для задачи question-answering на базе sdadas/polish-roberta-large-v2 с использованием датасета clarin-pl/poquad. Модель основана на RoBERTa, содержит 533,7 млн параметров и принимает текст вопроса вместе с контекстом. Максимальная длина контекста составляет около 512 токенов. Она подходит для поиска ответов в польских текстах, но возвращает извлечённый фрагмент, а не формулирует развёрнутый ответ; для длинных документов контекст потребуется разбивать. Лицензия — CC BY 4.0.