I.4Обработка документов и форм

ArmenianGPT v1.0-3B — открытая по весам языковая модель для генерации текста, разработанная Александром Баграмяном и представленная проектом ArmGPT. Модель ориентирована прежде всего на армяноязычное сообщество и предназначена для развития экосистемы больших языковых моделей в Армении. Заявлена поддержка армянского, английского и русского языков. Модель подходит для локального офлайн-использования: ответов на вопросы по документам, суммирования текстов, перевода и языковой поддержки, создания и перефразирования текстов, а также задач, требующих анализа и рассуждений на основе предоставленного контекста. Локальная работа позволяет не передавать пользовательские данные во внешние сервисы. Доступны варианты с разным уровнем квантования: F16 размером около 8 ГБ, Q8_0 около 4 ГБ и Q4_K_M около 2,5 ГБ; запуск возможен с использованием оперативной памяти или видеопамяти. Ключевое ограничение модели — небольшой размер относительно коммерческих LLM, поэтому она не предназначена для конкуренции с крупными системами общего назначения. В указанной версии модель не сохраняет историю диалога, и каждый запрос обрабатывается как новый разговор. Она также может генерировать неточную, вредную или вводящую в заблуждение информацию. Модель распространяется по специальной лицензии armeniangpt-license-1.0; условия использования приведены в файле LICENSE.

Athene-V2-Agent-GGUF — это набор квантованных GGUF-версий модели Athene-V2-Agent, разработанной Nexusflow и подготовленной пользователем bartowski для запуска через llama.cpp. Модель относится к классу text-generation и предназначена для англоязычной генерации текста, агентских сценариев, function calling, извлечения информации и задач, связанных с RLHF. README не указывает точную архитектуру, число параметров и максимальную длину контекста. Модель ориентирована на использование в локальных приложениях и совместима, в частности, с LM Studio. Доступны варианты квантования от Q8_0 до Q2_K и IQ-серий, различающиеся размером файлов и качеством: старшие варианты обеспечивают качество, близкое к исходной модели, а младшие требуют меньше оперативной памяти, но заметно уступают по качеству. Для взаимодействия используется формат промпта с маркерами ролей system, user и assistant. Версия Q4_0_8_8 оптимизирована для ARM и требует поддержки SVE, при этом в README не рекомендуется для Mac и Windows. Сильные стороны модели — специализация на агентских задачах, function calling и extraction, а также широкий выбор квантований для локального запуска. Ограничения включают заявленную поддержку только английского языка, отсутствие сведений о мультимодальности, архитектуре, размере и контекстном окне, а также неизбежную потерю качества в низкобитных вариантах. Лицензия указана как other; конкретные условия использования в README не приведены.

Это дообученная модель BERT для ответов на вопросы, созданная на основе google-bert/bert-base-multilingual-cased. Она предназначена для извлечения ответа из предоставленного текста по заданному вопросу и поддерживает архитектуру BertForQuestionAnswering. Модель содержит 205,1 млн параметров, принимает текстовые входные данные и обучена работать с контекстом длиной до 512 токенов. В README приведены результаты оценки: exact match 72,4 и F1 75,50. Датасет обучения не раскрыт, поэтому эти показатели не позволяют судить о качестве на конкретных языках или предметных областях. Базовая модель многоязычная, но языки и сценарии специализации этого дообучения не уточнены. Модель распространяется по лицензии Apache-2.0.

badokorach/bert-finetuned-260124 — дообученная модель семейства BERT, разработанная пользователем badokorach на основе badokorach/bert-finetuned-210124. Модель предназначена для поиска ответа на вопрос в предоставленном тексте. Она содержит 32,4 млн параметров, принимает контекст длиной до 512 токенов и опубликована в формате TensorFlow. В README указано дообучение на неизвестном наборе данных и приведены нулевые значения train loss и validation loss после 14 эпох; этих метрик недостаточно, чтобы судить о качестве ответов. Лицензия не указана в предоставленных данных.

Модель monakth/distilbert-base-multilingual-cased-finetuned-squad — дообученная версия multilingual cased DistilBERT для извлечения ответов на вопросы. Она принимает вопрос и текстовый контекст и предсказывает фрагмент контекста в качестве ответа. Обучение проводилось на датасете SQuAD; для неё указан результат Loss 1,1954 на наборе оценки. Модель построена на архитектуре DistilBERT и предназначена для сценариев, где ответ можно найти в предоставленном тексте: например, для поиска ответов в документах или справочных материалах. Контекст ограничен 512 токенами. Лицензия — Apache-2.0.

droplychee-2.1-27b — дообученная разработчиком droplychee мультимодальная плотная модель семейства Qwen3.5 на базе Qwen/Qwen3.8-27B. Она предназначена для диалога с текстом и изображениями и может использоваться в сценариях, где нужно учитывать визуальный контекст при ответе. В метаданных указаны поддержка vision и интерфейс вызова инструментов; размер базовой модели — 27 млрд параметров. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Карточка сообщает, что обучение выполнялось с Unsloth и библиотекой Hugging Face TRL. Данные не описывают конкретные наборы для дообучения, оценку качества или длину контекста, поэтому эти характеристики нельзя установить по доступной информации.

ApocalypseParty/G4-31B-SFT-v5-2-soup — объединённая модель на архитектуре Gemma 4, созданная методом Linear с помощью mergekit из двух чекпойнтов: ApocalypseParty/G4-31B-SFT-v5-2 и ApocalypseParty/G4-31B-SFT-v5-2-seed1337. Модель предназначена для диалогов с текстом и изображениями: принимает текстовые запросы и изображения, выдаёт текстовые ответы. Карточка описывает способ объединения весов, но не уточняет языки, размер модели или длину контекста. В метаданных указаны библиотека Transformers, формат safetensors и возможности чата и работы с изображениями. Лицензия в предоставленных данных не указана.

Это версия Gemma 4 12B в формате SafeTensors, опубликованная пользователем tepirale. Согласно карточке, веса преобразованы из GGUF в SafeTensors; метаданные связывают модель с yuxinlu1/gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2-GGUF и классифицируют её как дообученную производную. Модель предназначена для диалоговых сценариев с изображениями; теги также указывают на агентное использование, работу с инструментами и кодом. Архитектура — плотная Gemma4UnifiedForConditionalGeneration, размер семейства — 12B по идентификатору модели. Карточка указывает поддержку изображений и текста, а лицензия в метаданных — Apache-2.0. README сообщает о конверсии формата, но не описывает методику преобразования или проверку сохранности поведения; сведений о контекстном окне и поддерживаемых естественных языках в предоставленных данных нет.

OsaurusAI подготовила производный вариант Google Gemma 4 12B IT QAT в формате MLX MXFP4 для запуска на Apple Silicon. Это плотная мультимодальная модель семейства Gemma 4 с 48 текстовыми слоями: 8 используют full attention, 40 — sliding attention. Линейные слои декодера квантованы в MXFP4 с размером группы 32; эмбеддинги, нормализации и ранние объединяющие медиа-энкодеры сохранены в fp16. Модель предназначена для диалогов и генерации текста по текстовым и визуальным входам; в комплекте также сохранён аудиоэнкодер. Указанный основной сценарий — image-text-to-text, включая анализ изображений. Карточка не подтверждает рабочий путь обработки видео. Доступны интерфейс чата и совместимость с вызовом инструментов в поддерживающих это рантаймах. Для запуска нужен MLX/vMLX с поддержкой Gemma 4 MXFP4; пакет не подходит для GGUF-рантаймов. Модель основана на google/gemma-4-12B-it-qat-q4_0-unquantized. Лицензия и ограничения использования наследуются от условий Gemma.

Gemma-4-E4B-Uncensored-HauhauCS-Aggressive — мультимодальная модель в формате GGUF, созданная HauhauCS на базе Google Gemma 4 E4B IT. Модель ориентирована на работу с текстом, изображениями, видео и аудио, а также на сценарии локального запуска через llama.cpp, LM Studio, Jan, koboldcpp и другие совместимые среды. Версия Aggressive модифицирована для минимизации отказов в ответах, поэтому подходит для задач, где требуется менее ограниченное следование запросам, однако может генерировать потенциально нежелательный или небезопасный контент. Модель содержит около 4 млрд параметров, включает 42 слоя со смешанной архитектурой sliding window attention с окном 512 и full attention, поддерживает контекст до 131 000 токенов и использует 18 общих KV-слоёв для снижения требований к памяти. Для мультимодальной работы требуется отдельный файл mmproj. Доступны варианты квантования от Q2 до Q8, включая оптимизированные HauhauCS K_P-кванты; размер файлов составляет примерно от 4,2 до 7,6 ГБ, не считая mmproj размером около 945 МБ. Сильными сторонами являются мультимодальность, большой контекст, возможность локального запуска и широкий выбор квантований. Ограничения включают отсутствие полноценной проверки поведения на длинном контексте, возможные редкие пограничные случаи и снижение качества при использовании более агрессивного квантования. Для llama.cpp рекомендуется включать параметр --jinja, а для изображений и аудио подключать mmproj. В README указана лицензия Gemma.

Llama 4 Scout 17B 16E Instruct — мультимодальная инструкционная модель Meta для диалогов и визуального рассуждения. Она использует авторегрессионную архитектуру Mixture of Experts с ранним объединением модальностей; в активной конфигурации заявлено 17 млрд параметров и 16 экспертов. Модель принимает текст и изображения и предназначена для понимания изображений, визуального распознавания, создания описаний и ответов на вопросы по изображениям. Модель поддерживает арабский, английский, французский, немецкий, хинди, индонезийский, итальянский, португальский, испанский, тагальский, тайский и вьетнамский языки. В карточке указано, что проверено понимание до пяти входных изображений; для большего числа изображений требуется дополнительная проверка и настройка. Модель выпущена как статический чекпойнт, обученный на офлайн-данных. Для использования доступны веса в формате safetensors через Transformers. Лицензия — собственное коммерческое соглашение Llama 4 Community License; применение регулируется его условиями и Acceptable Use Policy.

LLaVA-OneVision Qwen2 72B Chat — мультимодальная модель семейства LLaVA-OneVision, разработанная командой LLaVA и представленная в карточке Hugging Face как дообученная версия Qwen2. Она сочетает визуальный энкодер SO400M с языковой моделью Qwen2 и предназначена для диалоговой работы с изображениями и видео. Модель отвечает на вопросы по одному или нескольким изображениям, описывает визуальные материалы и поддерживает понимание видео. Обучение включало этапы с синтетическими инструкциями, данными для одиночных и нескольких изображений, а также видеоданными; заявлен формат точности bfloat16. Для работы с изображениями и видео используется мультимодальный шаблон чата в Transformers. Карточка указывает поддержку английского и китайского языков. Репозиторий распространяет веса в safetensors и использует лицензию Apache-2.0. Это крупная модель на 72 млрд параметров, поэтому для локального запуска требуются значительные вычислительные ресурсы; README также описывает возможность 4-битной загрузки через bitsandbytes.

Parakeet TDT v3 0.6B CoreML — мультиязычная модель автоматического распознавания речи, разработанная FluidInference на основе nvidia/parakeet-tdt-0.6b-v3. Модель преобразована в формат Core ML для платформ Apple и предназначена для полностью локальной транскрипции аудиофайлов, диктовки, создания заметок и встраивания распознавания речи в приложения через Swift-фреймворк FluidAudio. Модель использует архитектуру FastConformer-TDT (Token Duration Transducer) и содержит около 0,6 млрд параметров. Она принимает монофонический аудиосигнал с частотой 16 кГц в формате Float32 PCM и поддерживает 25 европейских языков: английский, испанский, французский, немецкий, болгарский, хорватский, чешский, датский, нидерландский, эстонский, финский, греческий, венгерский, итальянский, латышский, литовский, мальтийский, польский, португальский, румынский, словацкий, словенский, шведский, русский и украинский. Используется смешанная точность, оптимизированная для выполнения на ANE и CPU. К сильным сторонам относятся высокая скорость пакетной обработки, низкая задержка, автономная работа без сетевых запросов после загрузки моделей и повышенная приватность данных. На M4 Pro заявлен показатель около 110x RTF в пакетном режиме, однако фактическая производительность зависит от устройства, длительности аудио и выбранных вычислительных блоков. Основное ограничение — специализация на европейских языках, поэтому качество для других языков не заявлено и может снижаться. В метаданных указана лицензия CC BY 4.0, тогда как в тексте README также упоминается Apache 2.0 для репозитория FluidAudio; условия для конкретных артефактов следует уточнять отдельно.

DavidAU собрал эту мультимодальную модель на базе Qwen3.5-9B-heretic-v2: автор сообщает о дообучении через Unsloth на дистиллированном наборе рассуждений Claude 4.6. Модель принимает текст и изображения и генерирует текст; карточка заявляет поддержку vision и диалогового режима. В README указаны 9 млрд параметров, архитектура Qwen3.5 с языковой моделью и vision encoder, а также контекст 262 144 токена с возможностью расширения. Заявленная основная область применения — рассуждения, диалог и анализ изображений; автор также приводит результаты на нескольких тестах и сообщает о снижении отказов. README рекомендует квантизацию не ниже Q4_K_S или IQ3_S с imatrix. Видео не тестировалось. Указанные языки карточки — английский и китайский; более широкая языковая поддержка описана для исходной модели Qwen3.5, но отдельно для этого дообучения не подтверждена. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Cold-Fusion-GAIN-V1.1 — плотная мультимодальная модель семейства Qwen, дообученная DavidAU на базе Qwen/Qwen3.8-27B с использованием метода COLD FUSION (GAIN и Unsloth). Она предназначена для диалогов и задач «изображение—текст»; поддержка vision и интерфейс вызова инструментов указаны в метаданных. Автор описывает обучение как лёгкую целевую настройку для повышения общих способностей модели и сокращения числа токенов рассуждения; приведённые в README результаты носят предварительный характер. Модель распространяется в формате safetensors и имеет лицензию Apache-2.0. Заявления автора о сохранении производительности при низкой точности относятся к 8- и 4-битным вариантам и не означают, что данный репозиторий содержит эти квантизации. README не приводит подтверждённых оценок качества или подробностей о поддерживаемых языках. Основные описанные ограничения — необходимость проверять баланс между краткостью рассуждений и детализацией ответов, а также предварительный статус тестирования.

Solstice-AI публикует MXFP4-квантизованную и упакованную версию мультимодальной модели Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored, исходную модель и слияние GAIN создал DavidAU. Это плотная модель семейства Qwen3.5 с архитектурой Qwen3_5ForConditionalGeneration, предназначенная для диалога и обработки изображений; метаданные указывают поддержку английского и китайского языков, чата и интерфейса вызова инструментов. Весовая версия использует формат OCP Microscaling FP4 (MXFP4) с динамическим групповым масштабированием и `compressed-tensors`. Она ориентирована на высокую пропускную способность при инференсе на современных ускорителях; в README приведён пример запуска через vLLM с ограничением контекста 262144 токена. Репозиторий также содержит GGUF BF16 и safetensors форматы. Лицензия — Apache-2.0. Квантизация может влиять на точность по сравнению с исходной моделью; README не приводит результатов сравнительных оценок. Карточка заявляет uncensored-версию, поэтому ответы могут не иметь обычных ограничений содержания.

TheDrainFlorist/Qwen3.8-Flash-Next-VQ-2.1bpw — векторно-квантизированная версия Qwen3.8-Flash-Next, разработанная TheDrainFlorist с использованием VQLab и ориентированная на работу на компьютерах Apple Silicon. Модель предназначена для генерации текста, а также поддерживает обработку изображений; для запуска используются MLX, mlx-lm и mlx-vlm. Указанный язык — английский. В основе лежит MoE-архитектура с 180 млрд общих параметров и 10 активными экспертами из 512; также заявлены 51,2 млрд параметров n-gram PLE и vision-компонент. Квантизация выполнена методом vector quantization с разной геометрией по слоям, основной формат — 2.1 bits per weight. Размер основного файла составляет около 45,755 GiB, а дополнительная MTP-голова занимает ещё 2,140 GiB и загружается только при включении speculative decoding. Сведения о размере контекста в README не указаны. Сильными сторонами модели являются возможность разместить крупную MoE-модель на машине с 64 ГБ памяти, поддержка текста и изображений, оптимизированные для Apple Silicon ядра и опциональное ускорение генерации через MTP. Ограничения включают высокие требования к памяти, небольшой запас ресурсов на 64-гигабайтных системах и необходимость специальной поддержки архитектуры qwen4_exp: на момент описания требуется версия mlx-lm из отдельной ветки, поскольку в опубликованных версиях эта архитектура отсутствует. Для изображений нужен mlx-vlm версии 0.6.16 или новее; стандартная версия exo также не подходит без специальной ветки. Модель распространяется по лицензии qwen-community-1.0, обозначенной в карточке как license other.

BRlin публикует конверсию модели empero-ai/Qwythos-9B-Claude-Mythos-5-1M в формат MLX bf16 для запуска на Apple Silicon. Это плотная мультимодальная модель семейства Qwen3.5 с архитектурой Qwen3_5ForConditionalGeneration, примерно 9 млрд параметров и конфигурацией контекста до 1 048 576 токенов. Модель принимает текст и изображения, поддерживает диалог, визуальные запросы, рассуждения и работу с инструментами; в метаданных указан английский язык. Веса сохранены без квантизации, поэтому конверсия рассчитана на сохранение поведения исходной модели при использовании MLX и Metal. В README приведено сравнение на Apple M4 Pro: генерация текста около 14,5 токена в секунду против 7,4 у исходного варианта в PyTorch-MPS; для запуска указано около 19 ГБ памяти. Эта публикация предназначена для локального вывода на Apple Silicon и не описывает отдельное дообучение BRlin. Лицензия — Apache-2.0. Указанные скорости относятся к конкретной конфигурации и устройству; длинный контекст и bf16 требуют значительных ресурсов памяти. Поведение и авторство исходной модели README относит к Empero AI.

nlpconnect/roberta-base-squad2-nq — дообученная модель на базе RoBERTa для извлечения ответов на вопросы из предоставленного текста. Разработчики обучили базовую RoBERTa на SQuAD 2.0 в течение двух эпох, а затем на подмножестве Natural Questions с короткими ответами в течение одной эпохи. Модель содержит 151,8 млн параметров, использует архитектуру RobertaForQuestionAnswering и принимает вопрос вместе с контекстом длиной до 514 токенов. Модель предназначена для поиска ответа в тексте и может воздержаться от ответа, если контекст его не подтверждает. В README указаны результаты на dev-наборе SQuAD 2.0: F1 83,44 и exact match 80,30. Эти показатели относятся к указанному набору; качество на других текстах может отличаться. Доступны веса PyTorch и Flax. Лицензия — Apache 2.0.

roberta-finetuned-last-company — дообученная модель RoBERTa от автора tanishq1508 на базе deepset/roberta-base-squad2. Она предназначена для ответов на вопросы по предоставленному тексту и может определять, когда в контексте нет ответа. Модель содержит 151,8 млн параметров, использует архитектуру RobertaForQuestionAnswering и веса PyTorch; максимальная длина контекста — 514 токенов. Базовая модель ориентирована на английский язык. Данные для дообучения, подробные результаты оценки и ограничения в карточке не описаны. Лицензия — CC BY 4.0.

Surogate-3.5-4B — двуязычный ассистент компании Invergent для платформы Surogate, построенный на архитектуре Qwen 3.5. Модель предназначена прежде всего для следования инструкциям на румынском языке, рассуждений, решения математических задач и соблюдения орфографии; также поддерживает английский. Она принимает изображения и текст и выдаёт текст, поддерживает чат и шаблон Qwen3.5, а также режим с явной цепочкой рассуждений и адаптивной длиной рассуждения. Модель подходит для ответов на вопросы, выполнения инструкций и решения задач на румынском и английском языках. Оптимизация ориентирована на румынский, а качество английских ответов может меняться в зависимости от задачи. Модель может допускать орфографические, логические и фактические ошибки, поэтому расчёты и рекомендации с существенными последствиями следует проверять. Лицензия — Apache-2.0.

TrOCR base STR — модель оптического распознавания текста от Microsoft, дообученная на наборах IC13, IC15, IIIT5K и SVT. Она предназначена для распознавания текста на изображениях отдельных строк, например на фотографиях вывесок и коротких надписей. Модель построена по архитектуре vision encoder-decoder: Transformer-кодировщик изображений преобразует изображение в последовательность патчей 16×16, а авторегрессионный Transformer-декодер генерирует текст. Кодировщик инициализирован весами BEiT, декодер — RoBERTa. Репозиторий содержит веса PyTorch. Модель рассчитана на распознавание строк текста; качество для документов, многострочных изображений и других доменов может отличаться от качества на использованных наборах. Лицензия в предоставленных материалах не указана.

halilneed выпустил турецкоязычную модель для обнаружения и маскирования персональных данных в тексте по инструкции. Она построена на Gemma 3 Text, содержит около 257 млн параметров по метаданным и принимает текст вместе с инструкцией на турецком языке. Модель генерирует преобразованный текст, заменяя выбранные типы персональных данных метками; можно маскировать все данные, только заданные поля или все поля, кроме перечисленных. Она не возвращает NER-метки, фрагменты или смещения символов. Модель предназначена для подготовки турецких обращений в поддержку, журналов приложений и выдержек из документов перед передачей в LLM или другую систему. Контекст модели — до 32 768 токенов. В опубликованной оценке на 1 000 синтетических примерах точное совпадение целой строки составило 0,944; этот показатель не гарантирует обнаружение всех персональных данных в реальных документах. Лицензия — Gemma Terms of Use.

UncensoredLM-DeepSeek-R1-Distill-Qwen-14B — экспериментальная версия чат-модели от UncensoredAI. Это плотная языковая модель архитектуры Qwen2 с 13,4 млрд параметров, представленная в формате safetensors и рассчитанная на контекст до 131 072 токенов. Модель предназначена для генерации текста и ответов с рассуждениями; шаблон обучения ориентирует её на извлечение ответа из предоставленного контекста без опоры на внешние сведения. Модель заявлена как версия с ослабленным выравниванием отказов. Автор называет её предварительным экспериментальным выпуском и приглашает сообщать о проблемах, поэтому качество и поведение могут измениться в следующих версиях. Лицензия — Apache 2.0.

Vela PII — модель vllm-sr для обнаружения фрагментов текста с персональными и другими чувствительными данными, предназначенная для маршрутизации запросов с учётом приватности и редактирования таких данных. Это дообученная версия Vela-1.0-Encoder-307M на базе ModernBERT с 306,9 млн параметров; модель принимает последовательности длиной до 32 768 токенов и выдаёт разметку токенов метками BIO: 35 меток для 17 типов сущностей. Карточка приводит синтетические оценки exact-span micro F1 для шести языков, включая длинные контексты, но отмечает, что наборы использовались при отборе модели и не являются независимым тестом на естественных документах. Модель распространяется по лицензии Apache-2.0.

NomaDamas подготовил конверсию модели naver/v-splade-quality в формат MLX bfloat16 для запуска на Apple Silicon. Это разреженный поисковый энкодер для визуального поиска по документам: он кодирует страницы PDF, презентаций и сканов в векторы размерности 50 368 в пространстве токенов. Запросы обрабатываются через заранее вычисленную таблицу Bag-of-Words без нейросетевого кодирования, что позволяет искать документы по текстовым запросам. Артефакт включает веса энкодера в safetensors, таблицу запросов и конфигурации токенизатора и процессора. Архитектура объединяет визуальную башню SigLIP, pixel-shuffle connector, текстовый энкодер ModernBERT и SPLADE MLM head. В README приведены результаты проверки отдельной fp32-конверсии; они не относятся к хранящимся здесь весам bfloat16. Обучение или дообучение для этого репозитория не выполнялись. Модель предназначена для поиска по содержимому страниц документов и лицензирована Apache-2.0. Для загрузки и инференса требуется совместимая среда MLX на Apple Silicon.

beaunix/Aegis-Art-Atelier-Qwen2.5-VL-7B — дообученная beaunix мультимодальная модель на архитектуре Qwen2.5-VL, созданная на базе unsloth/qwen2.5-vl-7b-instruct. Она принимает изображения и текст и генерирует текстовые ответы, поэтому подходит для диалога и задач визуального анализа. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и рассчитана на английский язык. Модель поставляется в формате safetensors и распространяется по лицензии Apache-2.0. В README указано, что обучение выполнялось с использованием Unsloth и библиотеки TRL; сведений о специализации дообучения и сравнительных оценках качества нет.

Модель badokorach/afriqa_afroxlmr_lug_290124 — дообученная версия badokorach/afriqa_afroxlmr_squad_v2_060124 для ответов на вопросы. Она построена на архитектуре XLM-RoBERTa и содержит 305,2 млн параметров; опубликована в формате TensorFlow. Модель предназначена для извлечения ответа из текста по заданному вопросу, а карточка указывает контекст длиной до 514 токенов. В README приведены значения потерь на обучении и валидации, однако набор данных, языки, сценарии применения и ограничения не описаны. Модель распространяется по лицензии MIT.

jondurbin создал эту диалоговую модель на базе LLaMA с 32,3 млрд параметров, дообучив её методом QLoRA на синтетических данных, созданных GPT-4. Она предназначена для генерации ответов в формате чата и задач, включающих викторины, математику и рассуждения, программирование, вопросы с выбором ответа и заполнение пропусков, а также ответы на вопросы с опорой на предоставленный контекст. Для диалога используется шаблон Vicuna 1.1. Особый акцент сделан на ответах по заданному контексту: модель обучали опираться на предоставленные сведения и ограничивать ответ ими, чтобы уменьшить галлюцинации. Контекстное окно составляет 2048 токенов. README отмечает, что навыки математики и рассуждений остаются слабыми; следовательно, ответы требуют проверки. Модель выпущена под лицензией CC BY-NC 4.0, которая запрещает коммерческое использование.

ahotrod/albert_xxlargev1_squad2_512 — англоязычная модель семейства ALBERT для поиска ответов на вопросы по предоставленному тексту. В метаданных указаны архитектура AlbertForQuestionAnswering, 3,3 млрд параметров и контекст до 512 токенов; доступны веса PyTorch и TensorFlow. README приводит результаты на наборе SQuAD 2.0: exact match 86,11 и F1 89,35 по 11 873 примерам, включая вопросы с ответом и без ответа. Модель подходит для извлечения ответа из контекста, в том числе для определения случаев, когда в тексте нет ответа. Карточка не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.