I.3Извлечение и структурирование данных

ARIA 70B V2 — это большая языковая модель в формате GGUF, разработанная Faradaylab и квантизированная TheBloke. Репозиторий содержит варианты модели для запуска через llama.cpp и совместимые интерфейсы и библиотеки, включая text-generation-webui, LM Studio, KoboldCpp, Faraday.dev, ctransformers и llama-cpp-python. Исходная модель доступна в формате PyTorch FP16, а также существуют варианты AWQ и GPTQ. Модель основана на архитектуре Llama и предназначена для генерации текста, диалоговых сценариев, ролевого общения, образовательных задач и, согласно метаданным, работы с кодом. Заявлены английский и французский языки. Для общения используется шаблон Llama-2-Chat с системными инструкциями о полезных, безопасных и непредвзятых ответах. Размер модели — 70B параметров; сведения о длине контекста и поддержке дополнительных модальностей в README не указаны. Ключевое преимущество этой версии — поддержка нескольких уровней 2-, 3-, 4-, 5-, 6- и 8-битного квантования, позволяющая запускать модель с использованием CPU и GPU и выбирать компромисс между качеством, скоростью и требованиями к памяти. Ограничения включают высокие аппаратные требования для 70B-модели, возможное снижение качества из-за квантования и отсутствие подтверждённых характеристик производительности. Указанная лицензия — llama2.

ArliAI-Llama-3-8B-Dolfin-v0.5 — разговорная модель OwenArli на архитектуре Llama 3, дообученная на базе Meta-Llama-3-8b-Instruct. Она предназначена для генерации ответов и следования инструкциям в диалогах; автор указывает, что использовал улучшенные наборы данных Dolphin и WizardLM, чтобы повысить следование инструкциям и снизить частоту отказов. Модель содержит 7,5 млрд параметров, а её базовый контекст составляет 8192 токена. Дообучение выполнялось методом QLoRA с рангом 64 и alpha 128; README сообщает о последовательностях длиной 2048 токенов при обучении и сохранении качества на контексте 8192 токена. Репозиторий содержит веса Safetensors. Модель рассчитана на текстовый ввод и текстовые ответы. Карточка не приводит отдельные результаты бенчмарков и подробного перечня поддерживаемых языков. Использование регулируется лицензией Meta Llama 3; необходимо соблюдать её условия.

OwenArli/ArliAI-Llama-3-8B-Dolfin-v0.6-Abliterated — диалоговая языковая модель на архитектуре Llama 3, созданная как дообучение Meta-Llama-3-8B-Instruct. Разработчик использовал улучшенный набор данных Dolphin и WizardLM, чтобы усилить следование инструкциям и снизить частоту отказов. Версия 0.6 основана на варианте Llama 3 8B Instruct с удалёнными механизмами отказа. Модель предназначена для генерации ответов в формате диалога и выполнения инструкций. В README указаны обучение с контекстом 2048 токена и сохранение рабочего контекста базовой модели в 8192 токена; метаданные также указывают контекст 8192 токена и размер около 7,5 млрд параметров. Модель принимает текст и выдаёт текст. В README описано обучение с использованием QLoRA ранга 64 и alpha 128, при котором обучаемыми были около 2% весов. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии Meta Llama 3; перед использованием необходимо соблюдать её условия. Из-за настройки на снижение отказов модель может отвечать на запросы, которые другие помощники отклоняют, поэтому ответы требуют соответствующей проверки.

Atom-7B-Chat — диалоговая языковая модель, совместно разработанная Llama中文社区 и AtomEcho. Она создана на основе Llama 2-7B и продолжительно предобучена на крупных китайских текстовых корпусах; архитектура — плотный decoder-only Transformer семейства Llama с 6,7 млрд параметров. Модель предназначена для диалогов на китайском и английском языках, ответов на вопросы и генерации текста. В README указано штатное контекстное окно 4K токенов; с NTK-расширением заявлена поддержка более 18K, а после дообучения — до 32K токенов. Разработчики сообщают об оптимизации китайского словаря до 65 000 токенов и повышении скорости кодирования и декодирования китайского текста. Модель можно запускать с Transformers; README также приводит примеры размещения 7B-модели в форматах INT8 и INT4 на потребительских видеокартах. Репозиторий содержит веса safetensors, лицензия Apache-2.0 допускает коммерческое использование. Заявленные свойства контекста и скорости приведены разработчиками; независимые результаты оценки в предоставленных материалах не описаны.

Baichuan-7B — открытая предварительно обученная языковая модель компании Baichuan Intelligent Technology. Это плотная авторегрессионная модель на архитектуре Transformer с 6,7 млрд параметров по метаданным (в карточке указано около 7 млрд), обученная примерно на 1,2 трлн токенов. Она предназначена для генерации текста и последующего дообучения под прикладные задачи. Модель поддерживает китайский и английский языки, использует контекстное окно длиной 4096 токенов и включает rotary embeddings, SwiGLU и RMSNorm. Разработчик сообщает о результатах на китайских и англоязычных тестах, включая C-Eval и MMLU, и отмечает оптимизацию для китайского языка. Модель может применяться для генерации и продолжения текста, а также как основа для дообученных решений. Лицензия Baichuan-7B License допускает коммерческое использование согласно карточке модели. Возможны фактические ошибки и предвзятые, оскорбительные или непристойные ответы; для значимых решений выводы следует проверять.

google/bert_uncased_L-6_H-768_A-12 — компактная англоязычная модель BERT из набора BERT Miniatures, разработанного Google и описанного в работе «Well-Read Students Learn Better». Это плотный трансформерный энкодер с 6 слоями, размерностью скрытого представления 768 и 12 головами внимания; в модели около 80,1 млн параметров. Она принимает текст без учёта регистра, обучена с WordPiece-маскированием и поддерживает контекст до 512 токенов. Модель предназначена для тонкой настройки на задачах понимания английского текста, например классификации и оценки сходства предложений. Компактный размер рассчитан на среды с ограниченными вычислительными ресурсами; авторы также отмечают пользу дистилляции, когда обучающие метки создаёт более крупная модель-учитель. Карточка приводит результаты на GLUE для других вариантов набора, но не отдельную оценку этой конфигурации. Доступны веса PyTorch и Flax. Лицензия — Apache-2.0.

MoritzLaurer/bge-m3-zeroshot-v2.0 — модель нулевой классификации текста, разработанная Moritz Laurer и дообученная на базе BAAI/bge-m3-retromae. Она использует архитектуру XLM-RoBERTa с классификационной головой и определяет, следует ли считать гипотезу истинной или неистинной относительно входного текста; этот формат NLI позволяет формулировать задачу как выбор одной или нескольких меток без обучающих примеров. Модель содержит 658,7 млн параметров, принимает текстовые входы длиной до 8194 токенов и доступна в форматах Safetensors и ONNX. Модель предназначена для классификации отзывов, тем, намерений и других текстов по заданным пользователем категориям на CPU или GPU. В оценке на 28 задачах классификации автор сообщает средний macro-F1 0,59 для zero-shot режима; результаты зависят от формулировок гипотез и меток. Модель поддерживает многоязычные сценарии, хотя README не приводит список конкретных языков. Ограничение модели — работа только с классификацией текста; возможны смещения из базовой модели, данных NLI и синтетических обучающих данных. Лицензия репозитория — MIT.

soichisumi публикует версию BAAI/bge-reranker-v2-m3, преобразованную для MLX и квантованную до 8 бит методом affine с размером группы 64. Модель основана на XLM-RoBERTa с архитектурой классификатора последовательностей и содержит 658,7 млн параметров; указанный в карточке объём файлов — 607 МБ. Она оценивает релевантность пары «запрос — фрагмент» и подходит для переранжирования результатов поиска. Модель многоязычная, с контекстом до 8194 токенов. В README приведена проверка на 30 запросах и 897 парах из набора mteb/scidocs-reranking: Kendall τ составила 0,9797, а изменение nDCG@10 — −0,0002; автор характеризует результат как практически без потерь. Это ограниченная оценка на одном наборе данных, поэтому она не гарантирует аналогичное качество на других доменах и языках. Лицензия — Apache-2.0.

BLOSSOM-v4-qwen15-7b — диалоговая языковая модель, разработанная на основе Qwen1.5-7B и дообученная методом instruction tuning на смешанных наборах Blossom Orca, Wizard, Chat и Math. Обучение прошло в два этапа: сначала на одношаговых инструкциях Wizard, Orca и Math, затем на многошаговых диалогах Blossom Chat с небольшой примесью данных первого этапа. Модель предназначена для диалоговых ответов и выполнения инструкций общего назначения, включая задачи с математическими вопросами. Архитектура — плотная Qwen2ForCausalLM с 7,1 млрд параметров; нативный контекст составляет 32 768 токенов. Карточка указывает поддержку китайского и английского языков. Для диалога используется формат продолжения текста с ролями Human и Bot. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка заявляет общие диалоговые возможности и понимание контекста, но не приводит результатов независимых оценок качества.

BLOSSOM-v5-32b — разговорная языковая модель от команды Blossom, дообученная на базе Qwen1.5-32B. Это плотная модель архитектуры Qwen2 с 31,7 млрд параметров; она принимает текст и генерирует ответы в формате диалога. Модель обучалась на смешанных наборах Blossom Chat, Orca, Wizard и Math, включая многоходовые диалоги, математические инструкции и данные, дистиллированные из GPT-4-0125-preview. Карточка заявляет поддержку китайского и английского языков, а контекст составляет до 32 768 токенов. Модель предназначена для ответов на вопросы и выполнения общих инструкций в чат-сценариях, включая математические запросы. Обучение проходило в два этапа: на одноходовых наборах Wizard, Orca и Math, затем на многоходовом наборе Blossom Chat. Доступна по лицензии Apache-2.0. Оценки качества на независимых тестах в карточке не приведены.

Это набор GGUF-квантизированных версий языковой модели bofenghuang/Meta-Llama-3-8B, подготовленный командой featherless-ai-quants. Модель предназначена для генерации текста и локального или серверного запуска в совместимых средах, поддерживающих формат GGUF. README не уточняет исходного разработчика базовой модели, её языки, максимальный контекст и точную архитектуру; известно только, что базовая модель относится к семейству Meta Llama 3 и имеет 8 млрд параметров. Доступны варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 3 до 8,1 ГБ. Разные варианты позволяют выбирать компромисс между требованиями к памяти, скоростью работы и сохранением качества, однако конкретные различия в качестве в README не приведены. Модель ориентирована на задачи текстовой генерации, но сведения о специальной настройке, мультиязычности, производительности и ограничениях отсутствуют. Лицензия в README не указана. Условия использования должны определяться лицензией исходной модели bofenghuang/Meta-Llama-3-8B и условиями распространения соответствующих квантизированных файлов.

bruphin-lambda — диалоговая языковая модель на архитектуре Mistral, созданная nbeerbower с помощью слияния SLERP через mergekit. Она объединяет chihoonlee10/T3Q-Mistral-Orca-Math-DPO и nbeerbower/bruphin-kappa и предназначена для генерации текста в формате диалога. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса Safetensors; модель распространяется по лицензии Apache-2.0. В карточке не приведены сведения о языках, специальных доменах или сравнительных оценках качества.

calme-2.7-qwen2-7b — дообученная Maziyar Panahi чат-модель на базе Qwen2-7B, предназначенная для генерации ответов и диалогового взаимодействия. Автор заявляет, что дообучение направлено на улучшение базовой модели по результатам бенчмарков; в обучении использованы данные HelpSteer2, OpenHermes-2.5, Orca Math Word Problems и SlimOrca. Модель построена на плотной архитектуре Qwen2ForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 131 072 токенов. Для диалогов используется шаблон ChatML. Карточка приводит результаты оценивания на Open LLM Leaderboard, включая IFEval и BBH. Модель принимает текст и генерирует текст; в метаданных указан английский язык. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Качество зависит от запроса и сценария; опубликованные бенчмарки не гарантируют точность ответов в конкретных задачах.

Карточка модели psikosen/canopy-258m-r3-v5 на Hugging Face совпадает с карточкой psikosen/canopy-258m-r3-v4, поэтому описание составлено по ней. psikosen/canopy-258m-r3-v4 — компактная генеративная модель семейства Canopy, представленная как модель для рассуждений на периферийных устройствах и автоматизации браузера. В README описана архитектура рекуррентной смеси экспертов (MoE), однако метаданные указывают класс CanopyForCausalLM и 136,8 млн параметров; поэтому размер и точные архитектурные детали в источниках расходятся. Согласно README, модель ориентирована на генерацию текста, многошаговые рассуждения и выполнение действий в браузере, включая заполнение форм и цепочки действий. В карточке заявлены ограничение памяти KV-кэша при длинных последовательностях и ускорение генерации и браузерных операций; эти показатели приведены самим автором и независимая проверка в предоставленных данных отсутствует. Метаданные указывают английский язык и поддержку чата и кода. Модель распространяется под лицензией Apache-2.0.

ChatAllInOne-Yi-34B-200K-V1-GGUF — квантизированная GGUF-версия текстовой генеративной модели ChatAllInOne-Yi-34B-200K-V1, разработанной DrNicefellow. Квантизацию выполнила Second State Inc.; базовая модель указана как DrNicefellow/ChatAllInOne-Yi-34B-200K-V1. Модель предназначена для диалоговой генерации текста и запуска в совместимых средах, включая LlamaEdge. Для взаимодействия используется шаблон vicuna-1.1-chat с ролями USER и ASSISTANT. В основе лежит модель класса Yi с 34 млрд параметров; заявленное название содержит указание на контекст до 200K, однако в README для запуска через LlamaEdge указан размер контекста 7168, поэтому фактический поддерживаемый контекст зависит от конфигурации и среды выполнения. Модель работает только с текстом; сведения о языках не приведены. Доступны варианты квантизации от Q2_K до Q8_0 размером примерно от 12,8 до 36,5 ГБ. Q4_K_M обозначен как рекомендуемый сбалансированный вариант, а Q5_K_M и Q5_K_S — как варианты с низкой потерей качества. Главное преимущество — возможность запускать крупную 34B-модель в квантизированном формате с выбором компромисса между размером файла, требованиями к ресурсам и качеством. Низкобитные варианты заметно экономят память, но сопровождаются существенной потерей качества; для практического использования README рекомендует Q4_K_M или более точные варианты Q5. Модель распространяется по лицензии yi-license; ссылка на текст лицензии приведена в README.

cybertron-v4-qw7B-UNAMGS-GGUF — квантизированная версия текстовой языковой модели cybertron-v4-qw7B-UNAMGS, разработанной fblgit на базе Qwen2.5 7B. Квантизацию выполнил bartowski в формате GGUF с использованием llama.cpp и imatrix. Модель предназначена для генерации текста и диалоговых сценариев; для работы указан шаблон промпта в формате ChatML. Поддерживается английский язык. Модель дообучалась методом SFT с использованием подходов UNA (Uniform Neural Alignment) и MGS на датасете Magpie-Align/Magpie-Qwen2.5-Pro-1M-v0.1. Архитектура, размер контекста и точная модальность в README не указаны; по описанию это текстовая модель без заявленной поддержки изображений или других типов данных. Доступны варианты от F16 до квантизаций Q8_0, Q6_K_L, Q6_K, Q5_K_L, Q5_K_M и Q5_K_S, что позволяет выбирать баланс между качеством и требованиями к памяти. Для запуска рекомендуется LM Studio или совместимое ПО на базе llama.cpp. В качестве сильных сторон заявлены высокие результаты среди моделей класса 7–8B без загрязнения тестовых данных, а также несколько вариантов квантизации, включая Q6_K и Q6_K_L. Ограничения включают сравнительно небольшой размер модели и отсутствие подробных сведений о контекстном окне, производительности, безопасности и практических сценариях применения. Лицензия обозначена как Qwen; README ссылается на лицензию Qwen для Qwen2.5-72B-Instruct, однако точные условия для производной модели требуют проверки.

shadowml/DareBeagel-2x7B — языковая модель для диалоговой генерации текста, созданная объединением mlabonne/NeuralBeagle14-7B и mlabonne/NeuralDaredevil-7B в MoE-архитектуру Mixtral с помощью LazyMergekit. Конфигурация использует случайный режим маршрутизации экспертов. В метаданных указаны 7,1 млрд параметров, контекст до 32 768 токенов и формат safetensors. Модель предназначена для чатов и генерации ответов на текстовые запросы; в README приведены результаты оценки на задачах рассуждения и продолжения здравого смысла. Репозиторий распространяется по лицензии Apache-2.0. README озаглавлен Beyonder-2x7B-v2, тогда как идентификатор репозитория содержит DareBeagel-2x7B.

dots.llm1.base — базовая языковая модель семейства dots.llm1, разработанная командой dots1. Она предназначена для генерации и продолжения текста, а также служит основой для диалоговых приложений и дальнейшей настройки под инструкции. Модель построена на разреженной архитектуре Mixture of Experts (MoE): в README указаны 142 млрд параметров всего и 14 млрд активируемых при инференсе. Архитектура включает 62 слоя, multi-head attention с QK-Norm, маршрутизацию к 6 из 128 экспертов и 2 общих эксперта. Репозиторий содержит веса в формате Safetensors; контекст составляет 32 768 токенов. Поддерживаются английский и китайский языки. Разработчики сообщают о предобучении на высококачественном корпусе без синтетических данных и о производительности на уровне Qwen2.5-72B. Модель распространяется по лицензии MIT. Карточка описывает серию, включающую базовую и настроенную на инструкции версии; приведённые характеристики серии не гарантируют одинаковое качество на всех задачах.

dots.llm1.inst — инструктивная версия языковой модели dots.llm1 от команды dots-studio. Это разреженная MoE-модель с 142 млрд параметров, из которых при генерации активируются 14 млрд. Архитектура включает 62 слоя, multi-head attention с QK-Norm и маршрутизацию к 6 из 128 экспертов, а также два общих эксперта. Модель принимает текст и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов, ответов на запросы и генерации или продолжения текста на английском и китайском языках. В README описаны этапы предварительного обучения и дообучения с учителем; репозиторий содержит вариант instruction-tuned. Указанная лицензия — MIT. Сведения о качестве в конкретных задачах в доступной карточке не приведены.

EraX-WoW-Turbo V1.1 — модель распознавания речи команды EraX, дообученная на основе openai/whisper-large-v3-turbo. Это мультиязычная архитектура Whisper с 905,2 млн параметров, предназначенная для преобразования аудио в текст. По данным карточки, обучение включало около 600 тысяч примеров и 1000 часов аудио на 11 языках: вьетнамском, английском, китайском, кантонском, индонезийском, корейском, японском, русском, немецком, французском и нидерландском. Модель рассчитана на транскрибацию в реальном времени, создание субтитров, расшифровку встреч и голосовые интерфейсы. В README заявлены скорость обработки 30 секунд аудио примерно за 350 мс и предварительный WER около 12%, однако авторы отмечают, что результаты бенчмарков ещё уточняются. Модель поддерживает входное аудио и выдаёт текст; карточка отдельно указывает возможные трудности с детской речью и тихим шёпотом. Лицензия — MIT.

Eris_PrimeV3.05-Vision-7B — объединённая ChaoticNeutrals модель семейства Mistral с 7,1 млрд параметров. Она предназначена для генерации текста и диалогов, а также анализа изображений при запуске в Koboldcpp с отдельным файлом mmproj; для работы с изображениями автор рекомендует актуальную версию Koboldcpp. Модель имеет контекст длиной 32 768 токенов. Репозиторий содержит веса в форматах Safetensors и GGUF F16. По метаданным, модель объединяет Eris_PrimeV3-Vision-7B и Prima-LelantaclesV7-experimental-7b. Лицензия обозначена как other, поэтому условия использования следует уточнить на странице репозитория.

Eurus-2-7B-PRIME-GGUF — набор квантованных версий языковой модели Eurus-2-7B-PRIME, разработанной PRIME-RL и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp и совместимые приложения, включая LM Studio. README не содержит подробностей о специализации модели, архитектуре исходной модели, поддерживаемых языках и длине контекста. Доступны варианты от полноразмерных F16 и Q8_0 до низкобитных IQ2 и Q2. Размер файлов составляет примерно от 2,78 до 15,24 ГБ. Квантование выполнено с использованием imatrix и llama.cpp b4404. Варианты Q6 и Q5 позиционируются как обеспечивающие очень высокое или высокое качество, а Q4_K_M — как компромиссный вариант для большинства сценариев; низкобитные версии требуют меньше оперативной памяти, но заметно уступают по качеству. Для работы рекомендуется использовать указанный в README формат prompt с ролями system, user и assistant. Модель распространяется по лицензии Apache-2.0.

EVA-Tissint-v1.1-14B — объединённая языковая модель на архитектуре Qwen2, созданная с помощью mergekit. В слиянии della_linear использованы EVA-Qwen2.5-14B-v0.2 и Tissint-14B-v1.1-128k-RP; базой указана EVA-Qwen2.5-14B-v0.2. Модель содержит 14 млрд параметров, построена для генерации текста и диалогового взаимодействия, а заявленный контекст составляет 131072 токена. Модель подходит для продолжения текста и ведения диалогов. Автор рекомендует использовать настройки сэмплирования из карточки Tissint и для XTC советует порог 0,2, отмечая, что более низкие значения ухудшают связность ответов. Файлы представлены в формате safetensors. Лицензия в предоставленных данных не указана.

Experiment26Yamshadow_Experiment24Yam — объединённая текстовая модель семейства Mistral, созданная из automerger/Experiment26Yamshadow-7B и automerger/Experiment24Yam-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и принимает контекст длиной до 32 768 токенов. Она предназначена для генерации текста и может использоваться в приложениях, которым нужны ответы или продолжение текста на основе текстового запроса. Модель распространяется в формате safetensors по лицензии Apache 2.0. Карточка не описывает специализацию по языкам или отдельные гарантии качества.

MaziyarPanahi/Experiment28M7_MeliodasNeuralsirkrishna — объединённая модель на основе Mistral, созданная из automerger/Experiment28M7-7B и automerger/MeliodasNeuralsirkrishna-7B. Это плотная авторегрессионная модель объёмом 7,1 млрд параметров для генерации текста и диалогов с контекстом до 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Карточка не описывает специализацию модели, обучающие данные или отдельные гарантии качества, поэтому её возможности следует считать общими для генерации текста.

MaziyarPanahi/Experiment28T3q_ShadowYam — объединённая языковая модель на архитектуре Mistral, созданная слиянием automerger/Experiment28T3q-7B и automerger/ShadowYam-7B. Модель содержит 7,1 млрд параметров и принимает текст для авторегрессионной генерации текста; поддерживает контекст до 32 768 токенов. Модель предназначена для генерации продолжений и ответов на текстовые запросы. Репозиторий содержит веса в формате safetensors. Языки и специализированные области применения в карточке не указаны. Лицензия — Apache-2.0.

Это конверсия модели распознавания речи Whisper large-v2, разработанной OpenAI, в формат CTranslate2. Репозиторий подготовлен для использования в CTranslate2 и проектах на его основе, включая faster-whisper; веса сохранены в FP16, а тип вычислений можно менять при загрузке через параметр compute_type. Модель принимает аудио и преобразует речь в текст. Она поддерживает многоязычное распознавание, в том числе русский и английский, а также другие языки, перечисленные в карточке. Лицензия репозитория — MIT. Ограничения качества и рекомендуемые сценарии в README этой конверсии не описаны.

flammen30-mistral-7B — плотная языковая модель семейства Mistral с 7,1 млрд параметров, созданная flammenai слиянием предобученных моделей через mergekit. Для объединения применён метод Model Stock: базой служила flammenai/flammen29-mistral-7B, вместе с ней в слияние вошли ещё семь моделей, включая варианты flammenai и Excalibur-7b-DPO. Модель предназначена для генерации текста и диалогового общения. Она принимает текст и выдаёт текст, работает через Transformers, а заявленная длина контекста составляет 32 768 токенов. В карточке не указаны специальные предметные области или поддерживаемые языки. Модель распространяется по лицензии Apache-2.0. Результат слияния объединяет несколько чекпойнтов, однако README не приводит сравнительных оценок качества или подробных рекомендаций по применению; возможности и точность следует оценивать на целевых задачах.

Карточка модели FuseAI/FuseChat-7B-v2.0 на Hugging Face совпадает с карточкой FuseAI/OpenChat-3.5-7B-Starling-v2.0, поэтому описание составлено по ней. FuseAI/OpenChat-3.5-7B-Starling-v2.0 — диалоговая языковая модель, выпущенная исследовательской группой Sun Yat-sen University в рамках проекта FuseChat. Это целевая модель, полученная лёгким дообучением для попарного слияния знаний OpenChat-3.5-7B и Starling-LM-7B-alpha; архитектура — плотная Mistral с 7,1 млрд параметров. В README она описана как компонент для объединения с другими целевыми моделями FuseChat в единую чат-модель. Модель предназначена для ответов на вопросы, выполнения текстовых инструкций и диалогового общения. Она принимает текст и генерирует текст, поддерживает английский язык и контекст до 8192 токенов. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. README приводит результаты MT-Bench для итоговой FuseChat-7B-v2.0, но не отдельную оценку этого целевого чекпойнта, поэтому эти показатели нельзя напрямую переносить на данную модель. Качество ответов может зависеть от шаблона диалога и сценария применения.

QuantFactory/gemma-2-9b-it-DPO-GGUF — квантизированная версия модели princeton-nlp/gemma-2-9b-it-DPO, созданная с использованием llama.cpp. Исходная модель разработана Yu Meng, Mengzhou Xia и Danqi Chen на базе google/gemma-2-9b-it и дообучена на наборе предпочтений princeton-nlp/gemma2-ultrafeedback-armorm с целевой функцией DPO. Это каузальная языковая модель для генерации текста и диалоговых сценариев, включая ответы на пользовательские запросы и задачи, где важны качество и соответствие человеческим предпочтениям. Архитектура, размер и контекст у квантизированной версии в README не указаны отдельно; известно, что она основана на Gemma 2 9B Instruct. Модель является текстовой и поддерживает генерацию текста; перечень языков не приведён. Обучение на предпочтениях улучшило показатели исходной модели в ряде оценок, включая AE2 и AH, при сопоставимых результатах на GSM и MMLU, однако отдельные метрики, такие как MMLU, не выросли. Квантизация может снизить требования к памяти и упростить локальный запуск, но её влияние на качество и характеристики не раскрыто. Лицензия указана как gemma. Для обучения использовались 8 GPU H100; параметры запуска и совместимость зависят от конкретного GGUF-файла и среды llama.cpp.