II.6Документация и сопровождение разработки

Auto-RAG — языковая модель ICTNLP Group, разработанная Tian Yu, Shaolei Zhang и Yang Feng. Это дообученная версия Meta-Llama-3-8B-Instruct, обученная на синтетических инструкциях для итеративного извлечения информации и генерации с поиском (RAG). Модель предназначена для диалоговых сценариев, где ответ строится с помощью последовательного поиска и использования найденных сведений. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров, работает с текстом и поддерживает контекст до 8192 токенов. В README указана возможность развёртывания через vLLM. Карточка не приводит результатов оценки качества или перечня поддерживаемых языков. Лицензия — Apache-2.0.

duyntnet/aya-23-8B-imatrix-GGUF — это набор квантованных форматов GGUF с использованием imatrix для модели Aya-23-8B, разработанной CohereForAI. Модель предназначена для генерации текста и может применяться в диалоговых сценариях, написании текстов и других задачах на основе языковой генерации. Известно, что это каузальная языковая модель размером 8B параметров, работающая с текстовой модальностью. В README явно указан английский язык, однако пример использования демонстрирует запрос на турецком языке; полный перечень поддерживаемых языков и размер контекста не приведены. Для работы требуется совместимая поддержка GGUF и соответствующее программное обеспечение; исходная модель использует Transformers и шаблон чата Command R Plus. Ключевое преимущество этой версии — квантованные представления, потенциально снижающие требования к памяти и вычислительным ресурсам по сравнению с полной моделью, однако конкретные уровни квантования и их влияние на качество не указаны. Лицензия обозначена как other, без дополнительных условий в README.

baichuan-llama-7b — это версия базовой языковой модели Baichuan-7B, сохранённая в формате LLaMA. Модель разработана Baichuan Intelligent Technology и использует авторегрессионную архитектуру Transformer с 6,7 млрд параметров; в README указаны 32 слоя, 32 головы внимания, rotary embeddings, SwiGLU и RMSNorm. Репозиторий загружается через LlamaForCausalLM и LlamaTokenizer в Transformers; веса доступны в форматах PyTorch и safetensors. Модель предназначена для генерации текста и продолжения запросов на китайском и английском языках, включая ответы на вопросы и решение учебных задач. README сообщает о предварительном обучении Baichuan-7B примерно на 1,2 трлн токенов и оптимизации для китайского языка. Метаданные указывают контекст 2048 токенов, тогда как README базовой модели описывает окно 4096 токенов; для этого репозитория следует ориентироваться на значение метаданных. Модель может выдавать фактически неверные, предвзятые, непристойные или оскорбительные ответы, поэтому её выводы требуют проверки. Указанная лицензия — baichuan-7B License; README заявляет о разрешённом коммерческом использовании, но условия следует сверять с текстом лицензии.

Beetle-FineWeb-2B/beetle-monolingual-fineweb-2b-rus — авторегрессионная модель генерации текста для русского языка, опубликованная на Hugging Face и предназначенная для работы через библиотеку Transformers. Название модели указывает на размер порядка 2 млрд параметров и обучение на русскоязычных данных FineWeb, а тег pico_decoder — на использование соответствующей архитектурной реализации декодера. Модель подходит для продолжения русскоязычного текста, генерации черновиков, экспериментов с языковыми моделями и встраивания в приложения, где требуется генерация текста. В карточке модели отсутствуют сведения о разработчике, лицензии, точной архитектуре, длине контекста, процедуре обучения, результатах оценки и специальных ограничениях использования.

Bellatrix-1.5B-xElite — компактная авторегрессионная языковая модель с архитектурой Qwen2, разработанная на базе Qwen/Qwen2.5-1.5B-Instruct. Модель содержит 1,5 млрд параметров, работает с текстом и использует формат Transformers; заявленная длина контекста составляет 131 072 токена. По карточке, обучение включало дообучение на синтетических примерах QWQ, SFT и RLHF. Модель предназначена для диалогов, следования инструкциям, генерации и суммаризации текста, логических рассуждений и сценариев RAG, включая агентный поиск и синтез найденной информации. Карточка заявляет многоязычное применение, однако в метаданных указан английский язык. У модели также заявлен интерфейс для вызова инструментов. Возможные ограничения — склонность к фактическим ошибкам, зависимость качества от языка и обучающих данных, а также более слабая работа на специализированных и внераспределённых задачах. В таблице оценки приведены низкие результаты на IFEval (19,64%) и BBH (9,49%), поэтому качество рассуждений и следования инструкциям стоит проверять на целевых задачах. Лицензия — Apache-2.0.

anas-awadalla/bert-small-finetuned-squad — компактная модель на архитектуре BERT, дообученная на наборе SQuAD для ответов на вопросы по предоставленному текстовому фрагменту. Модель содержит 32,4 млн параметров, принимает текст и рассчитана на контекст длиной до 512 токенов. Модель подходит для поиска ответа в статье, справке или другом тексте, когда вопрос и контекст передаются вместе. В оценке на SQuAD указаны exact match 71,06 и F1 80,83; эти показатели относятся к указанному набору данных и сами по себе не гарантируют качество на других типах текста. Веса доступны в формате PyTorch. Лицензия в предоставленных данных не указана.

BigLiz-120B — текстовая генеративная модель, созданная llmixer слиянием lzlv-70b и WinterGoddess-1.4x-70b в стиле Goliath-120b. Она построена на плотной архитектуре Llama и содержит 117,5 млрд параметров; веса опубликованы в формате safetensors. Для общения используются форматы запросов Vicuna и Alpaca. Модель предназначена для генерации текста и диалоговых сценариев. Контекстное окно составляет 4096 токенов. В метаданных указана лицензия llama2. README не приводит оценок качества или подробностей о поведении модели, поэтому пригодность для конкретных задач следует проверять самостоятельно.

Big-Tiger-Gemma-27B-v1_iMatrix_GGUF — набор квантованных GGUF-файлов модели на основе google/gemma-2-27b-it. Автор карточки сообщает, что для iMatrix использован файл groups_merged.txt от Kalomaze; метаданные указывают на связь с Gemma 2 и формат GGUF. Модель предназначена для диалоговой генерации текста и ответов на инструкции на английском языке. Модель создана на основе инструктивной Gemma 2 с 27 млрд параметров. Лицензия — Gemma; её условия следует учитывать при использовании. Карточка не содержит сведений о конкретных вариантах квантования или о контекстном окне.

BigWeave v33 105b — экспериментальная текстовая модель семейства Llama, созданная автором llmixer с помощью слияния и изменения слоёв meta-llama/Meta-Llama-3-70B-Instruct. В процессе self-merge дублировались средние слои и масштабировались матрицы; для общения используется формат запросов llamav3. Модель предназначена для генерации текста и диалоговых ответов на английском языке. Веса содержат 103,7 млрд параметров, контекст — 8192 токена, формат файлов — safetensors. README описывает эксперименты по подбору настроек слияния, а номер версии не служит показателем качества. Модель распространяется по лицензии Llama 3; применимость и условия использования следует сверять с её условиями.

BLOOM — авторегрессионная языковая модель семейства Transformer, разработанная международным сообществом BigScience. Она продолжает текст по заданному промпту и может выполнять разные языковые задачи, сформулированные как генерация текста; модель предназначена прежде всего для исследований и может служить основой для дальнейшей настройки под конкретные задачи. Модель имеет архитектуру decoder-only, модифицированную на основе Megatron-LM GPT-2, с позиционным кодированием ALiBI, 70 слоями и 112 головами внимания. В ней около 176 млрд параметров; обучение включало 366 млрд токенов. Контекстная длина — 2048 токенов. BLOOM генерирует текст на 46 языках и поддерживает 13 языков программирования; среди языков карточки указаны арабский, бенгальский, каталонский, английский, испанский, французский, хинди, индонезийский, португальский, тамильский, урду, вьетнамский и китайский. Модель подходит для генерации и продолжения текста, а также для исследовательских экспериментов с многоязычными LLM. Она может выдавать ошибочные утверждения как факты, повторяться, воспроизводить предвзятость и стереотипы, а также создавать оскорбительный, жестокий или сексуальный контент. Применение в критически важных и высокорисковых сценариях, включая медицину, право и финансы, не рекомендуется. Лицензия — BigScience BLOOM RAIL v1.0.

Boomerang Qwen3 2.3B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная Harvard-DCML. Это студент, полученный дистилляцией Qwen3-4B-Base; в исследовании Boomerang Distillation его слои можно комбинировать со слоями модели-учителя, чтобы без дополнительного обучения собирать промежуточные по размеру варианты. Для интерполяции авторы рекомендуют использовать функцию build_intermediate_model из своего репозитория и не патчить первые слои студента. Модель содержит около 2,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Она подходит для генерации текста и диалоговых сценариев; также заявлен интерфейс вызова инструментов. Веса опубликованы в формате safetensors, библиотека для работы — Transformers. Лицензия Apache-2.0. README описывает исследовательский метод комбинирования слоёв, но не приводит сравнительных оценок качества; результат интерполяции зависит от выбранного числа патчируемых слоёв.

Brinebreath-Llama-3.1-70B — экспериментальная объединённая диалоговая модель, созданная автором карточки на основе Meta-Llama-3.1-70B-Instruct, Hermes 3, Dracarys и SauerkrautLM. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 69,5 млрд параметров; она предназначена для генерации текста и ответов на запросы в диалоговом формате. В метаданных указан контекст 8192 токена и основной язык карточки — английский. Автор сообщает о приросте на MMLU-PRO относительно Llama 3.1 70B в тестировании квантованных Q4_0-файлов: 49% против 42% на 100 вопросах. Также приведены результаты на PubmedQA и ручных проверках, но эти оценки ограничены небольшими выборками и не гарантируют аналогичного качества в других сценариях. Модель может подойти для общих диалогов, ответов на вопросы и задач рассуждения; специализированных гарантий для права или медицины нет. Лицензия — Llama 3.1; для использования необходимо учитывать её условия.

calme-2.1-llama3-70b — диалоговая языковая модель Maziyar Panahi, дообученная методом DPO на базе meta-llama/Meta-Llama-3-70B-Instruct. Это плотная авторегрессионная архитектура Llama с 69,5 млрд параметров, рассчитанная на генерацию текста и ответы в формате ChatML; для работы используется библиотека Transformers. В карточке указано окно контекста 8192 токена, а среди данных дообучения — набор mlabonne/chatml-OpenHermes2.5-dpo-binarized-alpha. Модель подходит для диалогового ассистента, ответов на инструкции и генерации текста. В README приведены результаты Open LLM Leaderboard, включая средний балл 78,11, AI2 Reasoning Challenge — 71,67 и HellaSwag — 85,83. Указанная лицензия — llama3; для использования необходимо учитывать её условия. Данные карточки указывают английский язык, поэтому пригодность для других языков не подтверждена.

calme-2.5-qwen2-7b — языковая модель MaziyarPanahi, дообученная на базе Qwen/Qwen2-7B. Она предназначена для диалоговой генерации текста и, по заявлению автора, должна улучшать базовую модель на различных бенчмарках. Модель имеет архитектуру Qwen2 с 7,1 млрд параметров, принимает текст и использует шаблон диалога ChatML. Заявленная длина контекста — 131 072 токена. Модель подходит для чат-ботов, ответов на вопросы и генерации текста; в обучающих данных указаны HelpSteer2, OpenHermes-2.5, Orca Math Word Problems и SlimOrca. Поддерживаемый язык в метаданных — английский. Доступна по лицензии Apache-2.0. Результаты оценки в README обозначены как ожидаемые, поэтому улучшение качества не подтверждено приведёнными бенчмарками.

Calme-4x7B-MoE-v0.2 — разговорная языковая модель, опубликованная MaziyarPanahi. Она построена на архитектуре Mixture of Experts (MoE) семейства Mixtral и объединяет четыре дообученные модели Calme-7B; README указывает более 24 млрд параметров в общей сложности, а метаданные — 7,1 млрд параметров. Для каждого токена задействуются два эксперта. Модель предназначена для генерации связного текста и диалоговых сценариев; заявленная длина контекста — 32 768 токенов. В README приведены результаты сравнительной оценки на ARC, HellaSwag и TruthfulQA. Модель можно использовать через Transformers pipeline с задачей text-generation. В репозитории указаны веса Safetensors и лицензия Apache-2.0. README также ссылается на отдельную GGUF-квантизацию, но она не относится к этому репозиторию. Карточка не сообщает, на каких языках модель проверена, поэтому языковую поддержку нельзя уточнить. Приведённые оценки охватывают лишь несколько бенчмарков и не гарантируют точность ответов в практических сценариях.

Calme-7B-Instruct-v0.4-GGUF — это набор файлов модели в формате GGUF для инструкционной модели Calme-7B-Instruct-v0.4, разработанной и квантизированной MaziyarPanahi. Модель предназначена для генерации текста, диалоговых сценариев и выполнения инструкций. В метаданных она также отмечена как совместимая с Mistral, однако подробности исходной архитектуры в README не приведены. Модель имеет размер порядка 7 миллиардов параметров и доступна в вариантах квантизации от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K. Формат GGUF ориентирован на локальный запуск с помощью llama.cpp и совместимых приложений и библиотек, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. README не указывает поддерживаемые языки, максимальную длину контекста, конкретные показатели качества или мультимодальные возможности; по имеющимся данным, модель является текстовой. К сильным сторонам относятся широкий выбор уровней квантизации, возможность подобрать баланс между качеством, размером файла и требованиями к памяти, а также поддержка распространённых инструментов локального инференса. К ограничениям относятся потенциальная потеря качества при использовании низкобитных вариантов и отсутствие в README сведений о языковом покрытии, контексте, бенчмарках и рекомендуемых параметрах генерации. Модель распространяется по лицензии Apache-2.0.

AmberYifan/capsdnum-marin-8b-base-code_cap_b1000_s0 — дообученная модель на базе marin-community/marin-8b-base, созданная с использованием набора данных capsd_marin-8b-base-n80000-opc__mix_code_cap_b1000_s0. Это плотная Llama-модель с 7,5 млрд параметров для генерации текста; метаданные также указывают на возможность диалогового использования. Заявленный контекст составляет 4096 токенов, библиотека — Transformers. Название набора данных указывает на примеры, связанные с кодом и его описаниями, однако карточка не уточняет конкретные задачи, языки программирования, методы оценки или ожидаемое качество. Базовая Marin 8B Base описана как англоязычная модель для генерации и продолжения текста. Лицензия указана как other, поэтому условия использования следует проверять в материалах репозитория.

Captain-Eris-Diogenes_Twilight-V0.420-12B-GGUF — это 12-миллиардная языковая модель для генерации текста, созданная на основе модели Nitral-AI/Captain-Eris-Diogenes_Twilight-V0.420-12B. Данный репозиторий содержит её GGUF-квантизации, подготовленные bartowski с использованием llama.cpp и imatrix. Модель предназначена для локального запуска и текстовой генерации; рекомендуется использовать её через LM Studio или совместимые инструменты на базе llama.cpp. Указан формат промпта <s>[INST]{prompt}[/INST]. Доступны варианты от исходных весов F16 размером 24,50 ГБ до более компактных Q3-, Q4-, Q5-, Q6- и Q8-квантизаций размером примерно от 6,08 до 13,02 ГБ. Старшие варианты Q5 и Q6 обеспечивают высокое качество, а Q4_K_M указан как подходящий вариант по умолчанию для большинства сценариев; версии Q3 предназначены для систем с ограниченным объёмом оперативной памяти, но дают более низкое качество. Модель текстовая: сведения о поддержке изображений, языках, размере контекста и специализированных задачах в README отсутствуют. Лицензия также не указана.

vicgalle/CarbonBeagle-11B-truthy — диалоговая языковая модель на архитектуре Mistral, опубликованная VicGalle. Она предназначена для генерации текста в формате чата. В каталоге указаны 10,6 млрд параметров и контекст до 32 768 токенов; веса представлены в формате safetensors. В карточке приведены результаты Open LLM Leaderboard: средние оценки 76,10 и 21,29 для двух наборов тестов, включая ARC, HellaSwag, IFEval и BBH. Метаданные связывают модель с датасетом jondurbin/truthy-dpo-v0.1, но не подтверждают конкретный метод обучения или специализацию на правдивых ответах. Модель может использоваться для диалоговой генерации и оценки исследовательских сценариев; приведённые тестовые результаты сами по себе не гарантируют качество в прикладных задачах. Лицензия — Apache-2.0.

Carnice-9B-SFT-Fable5-Glint — текстовая генеративная модель, созданная автором ermiaazarkhalili как SFT-дообучение kai-os/Carnice-9b на наборе инструкций Fable-5-Glint-Clean. Модель построена на архитектуре Qwen3_5ForCausalLM; в метаданных указано 7,2 млрд параметров и контекст до 262 144 токенов, а в README — 9 млрд параметров. LoRA-адаптеры объединены с базовыми весами, поэтому отдельно отключить дообучение нельзя. Модель предназначена для генерации текста в диалоговом формате и следования обучающим инструкциям. На отложенной выборке из 199 примеров автор сообщает рост точности следующего токена относительно исходной Carnice-9b: Top-1 с 0,6439 до 0,7322, Top-5 с 0,8842 до 0,9378. Эти результаты относятся только к указанной выборке и не являются широкой оценкой качества. Лицензия — Apache-2.0. Поведение вне распределения единственного обучающего набора не проверено; модель наследует смещения, ограничения знаний и ошибки базовой модели. README указывает, что полноценные бенчмарки для чекпойнта не проводились.

tastypear/CausalLM-7B-DPO-alpha-GGUF — это квантизированная версия CausalLM 7B-DPO-alpha, разработанного командой CausalLM и опубликованная пользователем tastypear. Модель основана на архитектуре Llama и предназначена для генерации текста и диалоговых сценариев. Модель имеет около 7 миллиардов параметров, поддерживает английский и китайский языки и использует формат GGUF, совместимый с llama.cpp и рядом локальных интерфейсов и библиотек. В репозитории представлены варианты квантования Q4_K_M размером 4,77 ГБ, Q5_K_S размером 5,40 ГБ и Q5_K_M размером 5,53 ГБ. Для взаимодействия рекомендуется шаблон ChatML. Размер контекста в карточке модели не указан. К сильным сторонам относятся возможность локального запуска, поддержка GPU-ускорения через совместимые инструменты и уменьшенный размер файлов благодаря квантованию. Ограничения связаны с потерями точности, характерными для квантованных версий, а также с тем, что модель ориентирована на текстовые задачи и не заявляет поддержку мультимодального ввода в данном репозитории. Указана лицензия WTFPL, однако из-за базирования на Llama 2 также применяются условия лицензии Meta Llama 2; взаимодействие этих лицензий требует отдельной проверки.

Cerebrum-1.0-12.25B — языковая модель, опубликованная Joseph717171 и созданная с помощью mergekit как объединение с чередованием слоёв на основе Cerebrum-1.0-7b. Модель построена на архитектуре MistralForCausalLM, содержит 12,3 млрд параметров и принимает контекст до 32 768 токенов. Она предназначена для диалоговой генерации текста и задач рассуждения, а также как основа для дальнейшего дообучения или замена исходной версии Cerebrum на 7 млрд параметров. В карточке Cerebrum описана как модель для решения задач, требующих рассуждений, включая математические задачи, ARC Challenge, ответы на вопросы и творческие задания. Для общения рекомендуется шаблон Alpaca-style. Модель работает с текстом; сведения о поддерживаемых естественных языках в карточке не приведены. Лицензия — Apache-2.0. Результаты бенчмарков относятся к исходной версии Cerebrum-7b и не подтверждают такое же качество версии 12,25B.

MaziyarPanahi/Chocolatine-3B-Instruct-DPO-Revised-GGUF — это набор файлов модели в формате GGUF для локального запуска. В основе лежит jpacifico/Chocolatine-3B-Instruct-DPO-Revised; автор исходной модели — jpacifico, а квантизацию и публикацию GGUF-версии выполнил MaziyarPanahi. Модель относится к классу текстовых генеративных моделей с инструкционным дообучением и DPO-настройкой, имеет размер около 3 миллиардов параметров и предназначена для работы с текстом. Модель ориентирована на выполнение текстовых инструкций и генерацию ответов в локальных приложениях и библиотеках, совместимых с GGUF, включая llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp и другие. Доступны варианты квантизации от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством вывода. README не содержит сведений о поддерживаемых языках, длине контекста, точной архитектуре, результатах бенчмарков, мультимодальности и лицензии, поэтому эти характеристики нельзя достоверно оценить.

codebert-permissive-embed — модель эмбеддингов кода от ThinkingDBx Pvt. Ltd. Она преобразует фрагмент кода или текстовое описание кода в вектор из 768 чисел; близкие по смыслу фрагменты получают похожие векторы. Модель основана на архитектуре BERT, содержит 137,8 млн параметров по метаданным, работает с контекстом до 512 токенов и распространяется в формате Safetensors по лицензии Apache 2.0. Модель предназначена для поиска функций по описанию на естественном языке, обнаружения похожих фрагментов, группировки кода и извлечения подходящих файлов для RAG-сценариев с кодовым ассистентом. Она выдаёт только векторы и не генерирует код и не отвечает на вопросы. Обучение включало предварительное обучение на коде и сопоставление описаний с кодом; автор сообщает об отборе файлов с разрешительными лицензиями и удалении обнаруженных персональных данных из обучающих файлов. Сильная сторона модели — поиск кода по смысловому описанию, в том числе когда в коде нет слов из запроса. По README, она обучалась преимущественно на Python, Java, JavaScript, Go, PHP и Ruby и слабее работает с другими языками. Входы свыше 256 токенов обрезаются, поэтому длинные файлы следует разбивать на функции. Модель слабо подходит для сопоставления кода с кодом, например поиска реализации на другом языке; также она не проверялась на смещения, безопасность или определение лицензий.

CodeMix-JPID-3B-Llama3.2 — объединённая языковая модель, созданная сообществом mergekit на основе нескольких моделей семейства Llama 3.2. Для слияния применён метод TIES; базовой указана pankajmathur/orca_mini_v9_7_3B-Instruct. В объединение также вошли модели с настройками для математики, финансов, диалога и других задач. Модель предназначена для генерации текста и диалоговых сценариев. Она имеет плотную архитектуру LlamaForCausalLM, содержит 3,2 млрд параметров и поддерживает контекст до 131 072 токенов. Репозиторий использует формат safetensors и библиотеку Transformers. README и метаданные не сообщают о лицензии, целевых языках и результатах оценки качества. Возможности модели могут различаться по задачам, представленным в исходных моделях; отдельные количественные гарантии качества не приведены.

CodeRosa-70B-AB1 — языковая модель на архитектуре Llama, созданная автором карточки путём слияния CodeLlama-70b-Python-hf и Midnight-Rose-70B-v2.0.3. Она предназначена для общения на разные темы в роли помощника-компаньона, с дополнительными навыками программирования и обучения. Модель содержит 68,7 млрд параметров, принимает текст и генерирует текст; в карточке указаны английский язык и контекст 4096 токенов. Автор отмечает эмоциональный и творческий стиль, способность писать ответы разной длины и суммировать текст. Для работы с кодом модель унаследовала ориентированный на задачи подход CodeLlama Python и требует точных запросов. Автор описывает результат как личный эксперимент, который мало тестировался; возможны ошибки, а качество зависит от настроек генерации и длины контекста. Лицензия — Llama 2; перед использованием следует учитывать её условия.

CodeSage Small V2 — открытая модель для работы с исходным кодом, разработанная авторами семейства CodeSage. Это энкодер, дообученный контрастивным обучением на парах описаний и фрагментов кода из The Stack V2; для отбора обучающих данных применялась фильтрация согласованности. Модель предназначена для семантического поиска по коду и задач понимания кода, включая поиск фрагментов по текстовому запросу и поиск похожего кода. Модель содержит 151 млн параметров по метаданным, использует архитектуру CodeSage и принимает последовательности длиной до 2048 токенов. README указывает, что энкодер извлекает векторы кода размерности 1024 и поддерживает гибкую размерность эмбеддингов благодаря Matryoshka Representation Learning. В обучающих данных представлены C, C#, Go, Java, JavaScript, TypeScript, PHP, Python и Ruby. Репозиторий использует формат PyTorch и библиотеку Transformers. Модель ориентирована на получение эмбеддингов и семантический поиск, а не на генерацию кода. Лицензия Apache-2.0 разрешает использование на её условиях. Размер энкодера в README указан как 130 млн параметров, тогда как метаданные репозитория приводят 151 млн; фактическое число зависит от того, какие компоненты учитываются. Контекст ограничен 2048 токенами.

groupA — дообученная на TRL модель семейства Qwen2.5, созданная на основе Qwen/Qwen2.5-3B. Она предназначена для генерации ответов в диалоге и запускается через библиотеку Transformers как модель text-generation. Модель имеет плотную архитектуру Qwen2 с 3,1 млрд параметров и контекстное окно до 32 768 токенов. Карточка показывает пример ответа на открытый вопрос, но не описывает узкую специализацию или отдельную предметную область. Репозиторий содержит веса safetensors. Лицензия в предоставленных данных не указана.

ColQwen2 — модель для визуального поиска по документам, разработанная ViDoRe на основе Qwen2-VL-2B-Instruct. Она кодирует страницы документов и текстовые запросы в многовекторные представления ColBERT-типа, чтобы находить релевантные страницы по их визуальному содержимому. Эта версия предназначена для загрузки через Transformers или Sentence Transformers и получена конвертацией слитого чекпойнта ColQwen2. Модель подходит для поиска страниц в PDF по естественно-языковому запросу и для построения систем поиска по коллекциям визуальных документов. Обучающий набор включает 127 460 пар «запрос — страница» и полностью англоязычный; README сообщает об оценке переноса на другие языки без дообучения. Репозиторий содержит веса safetensors, лицензия — Apache-2.0. Модель ориентирована главным образом на PDF и языки с большим объёмом ресурсов, поэтому качество на других типах документов и малоресурсных языках может быть ограничено. Многовекторный поиск с поздним взаимодействием ColBERT требует поддержки со стороны поисковой инфраструктуры и может потребовать адаптации для обычных векторных хранилищ.

Contextual_KTO_Mistral_PairRM — диалоговая языковая модель ContextualAI на базе Mistral-7B-Instruct-v0.2, дообученная методом KTO для согласования ответов с человеческими предпочтениями. Для обучения использован набор Snorkel-Mistral-PairRM-DPO-Dataset; модель прошла три итерации KTO. Она рассчитана на генерацию ответов в диалоговом формате TuluV2 и поддерживает контекст до 32 768 токенов. В карточке указана оценка 33,23 на проверенной таблице лидеров Alpaca Eval 2.0 на 6 марта 2024 года. Модель содержит 7,1 млрд параметров, использует архитектуру Mistral и распространяется в формате safetensors по лицензии Apache-2.0. Карточка сообщает об английском языке.