I.3Извлечение и структурирование данных

aolans/gemma-2-9b_q4 — это текстовая модель семейства Gemma 2, основанная на google/gemma-2-9b и подготовленная автором aolans с помощью Unsloth. Карточка описывает её как вариант для использования в качестве основы для дальнейшего дообучения; архитектура — плотная авторегрессионная Gemma2ForCausalLM с 9 млрд параметров и контекстом 8192 токена. Модель предназначена для генерации текста и может служить отправной точкой для создания специализированных вариантов и диалоговых приложений. В карточке упоминаются инструменты Unsloth и Hugging Face TRL. Метаданные указывают лицензию Gemma и формат safetensors. Несмотря на суффикс q4 и упоминание квантования в README, метаданные перечисляют safetensors и не подтверждают конкретный формат или разрядность квантованных весов.

OsaurusAI подготовила пакет Google Gemma 4 E2B Instruct для запуска на Apple Silicon через MLX и совместимые среды vMLX. Это плотная мультимодальная модель класса Gemma4 с архитектурой Gemma4ForConditionalGeneration: 35 текстовых слоёв, из них 7 используют полное внимание, а 28 — скользящее. Линейные слои декодера квантизированы в MXFP4 с размером группы 32; эмбеддинги, нормализации и ранние медиаблоки сохранены в fp16. Модель принимает текст, изображения и аудио и выдаёт текст; поддерживаются диалоги и интерфейс вызова инструментов. Аудиокодировщик и конфигурация vision сохранены в пакете. Подтверждённого пути обработки видео нет. Для загрузки нужны MLX/vMLX с поддержкой Gemma 4 MXFP4; пакет не совместим с GGUF-рантаймами. Лицензия и ограничения использования соответствуют условиям Google Gemma.

AKALI — языковая модель, опубликованная Ali Eren Ak и дообученная на базе google/gemma-2-2b-it с использованием фреймворка AKALI. В метаданных указаны архитектура Gemma 2 с плотной causal language model, 2,7 млрд параметров, контекст до 8192 токенов и поддержка диалогового режима. Модель работает с текстом и предназначена для генерации ответов и выполнения языковых задач. В карточке заявлены сценарии дополнения знаний, подготовки данных и интеграции в NLP-системы. Эффективность зависит от базовой модели, качества данных и выбранной задачи; автор отдельно отмечает возможные смещения в сгенерированных данных и отсутствие универсальной оценки. Указана проприетарная конфиденциальная лицензия, поэтому условия использования следует сверять с правообладателем.

second-state/gpt-oss-20b-GGUF — версия модели openai/gpt-oss-20b в формате GGUF, опубликованная second-state. Модель семейства GPT-OSS построена на архитектуре MoE и предназначена для генерации текста в диалоговом режиме. В карточке указана поддержка запуска через LlamaEdge; для вызова инструментов требуется LlamaEdge версии 0.25.1 или выше. Модель принимает текстовые запросы и выдаёт текстовые ответы. Указанный родной размер контекста — 131072 токена; в репозитории доступны файлы GGUF и GGUF F16. Метаданные сообщают об общем числе параметров 1,6 млрд, а исходная модель в названии и карточке обозначена как gpt-oss-20b. Модель распространяется по лицензии Apache-2.0. README не описывает языковое покрытие или ограничения качества.

ibm-granite/granite-3.3-2b-instruct-GGUF — это набор конвертированных в формат GGUF версий инструкционно дообученной языковой модели IBM Granite 3.3 с базовой моделью объёмом 2 млрд параметров. Модель разработана IBM и предназначена для задач генерации текста и диалогового взаимодействия с инструкциями, включая локальный запуск средствами, поддерживающими формат GGUF. Репозиторий содержит варианты с различными уровнями квантования, однако конкретный набор квантований в карточке не указан. Модель относится к текстовым генеративным моделям; сведения о поддерживаемых языках, размере контекста, точной архитектуре, модальностях и результатах тестирования в предоставленной карточке отсутствуют. Сильными сторонами являются компактный размер базовой модели и доступность в оптимизированном формате GGUF, потенциально удобном для запуска на совместимом локальном оборудовании. Возможные ограничения, характеристики производительности и требования к ресурсам зависят от выбранного варианта квантования и не описаны. Лицензия — Apache 2.0.

GTE-ModernColBERT-SauerkrautLM-linear-merge — демонстрационная модель, созданная слиянием весов двух чекпойнтов средствами Sentence Transformers: lightonai/GTE-ModernColBERT-v1 и VAGOsolutions/SauerkrautLM-Multi-ModernColBERT. Для объединения применён линейный метод с равными весами 0,5; модель сохранена в формате safetensors. Это не специализированный релиз, дообученный под конкретную задачу. Модель на архитектуре ModernBERT предназначена для получения много-векторных представлений текста и задач семантического сходства, поиска документов и переранжирования результатов. Она принимает текст, поддерживает контекст до 8192 токенов и содержит 149 млн параметров. Базовые модели ориентированы на англоязычный семантический поиск; отдельные языковые возможности слитой версии в карточке не уточнены. Модель может служить компонентом поискового конвейера, где эмбеддинги используются для сопоставления запросов и документов. Поскольку это демонстрационное слияние, качество для конкретных наборов данных и задач не гарантируется. Лицензия в предоставленных данных не указана.

Hollow Ridge Q4 — каузальная языковая модель для генерации текста, опубликованная пользователем codex176743 на Hugging Face. По метаданным она связана с семейством Qwen2, содержит около 7,1 млрд параметров и рассчитана на запуск через библиотеку Transformers. В карточке также указаны форматы safetensors и conversational. Модель предназначена для диалоговой генерации текста, продолжения запросов и построения приложений на базе text-generation. Нативное контекстное окно составляет 32 768 токенов, что позволяет обрабатывать достаточно длинные инструкции и фрагменты диалога. Лицензия Apache-2.0 допускает использование в соответствии с её условиями. В README нет сведений о результатах оценки, поддерживаемых естественных языках, данных обучения, методе квантования Q4 или специализированных прикладных областях. Поэтому качество модели и её пригодность для конкретных языков и сценариев следует проверять отдельно.

Huihui-Qwen3-30B-A3B-Instruct-2507-abliterated — производная модель huihui-ai на архитектуре Qwen3 MoE, созданная изменением Qwen/Qwen3-30B-A3B-Instruct-2507 методом abliteration. Она предназначена для диалогов, выполнения инструкций и генерации текста; интерфейс модели также поддерживает вызов инструментов. Модель рассчитана на контекст до 262 144 токенов и использует библиотеку Transformers. В метаданных указано 2,6 млрд параметров. Автор описывает её как экспериментальную версию с подтверждением концепции: методом abliteration существенно снижены отказы модели. Это может приводить к чувствительным, спорным или неподходящим ответам, поэтому результаты требуют проверки. Модель распространяется по лицензии Apache-2.0.

Это GGUF-квантизированная версия языковой модели granite-4.0-tiny-preview, разработанной IBM Granite и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска в локальных приложениях, совместимых с llama.cpp, включая LM Studio и другие проекты на его основе. В набор входят варианты с разными уровнями квантизации: от исходных весов BF16 размером 13,35 ГБ до компактных IQ3_M размером 3,13 ГБ. Доступны форматы Q3, Q4, Q5, Q6, Q8 и IQ4; варианты с более высокой точностью обычно обеспечивают лучшее качество, а компактные версии требуют меньше оперативной памяти. Архитектура, число параметров, поддерживаемые языки и размер контекста в README не указаны. Приведён специальный формат prompt с ролями system, user и assistant. Сильная сторона модели — широкий выбор квантизаций для различных ограничений по памяти и производительности; отдельные варианты оптимизированы для CPU и Apple silicon. Качество зависит от выбранного формата, а наиболее компактные версии характеризуются сниженным качеством. Модель распространяется по лицензии Apache-2.0.

INTELLECT-3-Base — текстовая языковая модель Prime Intellect, представляющая собой копию GLM-4.5-Air-Base с шаблоном чата, адаптированным из Qwen3-Coder. Модель предназначена для генерации текста в диалоговом формате; её архитектура относится к семейству GLM-4 MoE, размер — 8,5 млрд параметров, максимальный контекст — 131 072 токена. Модель принимает текст и генерирует текст. В метаданных указана поддержка английского и китайского языков, а также возможность диалогового использования. Веса опубликованы в формате Safetensors. Лицензия — MIT. README не описывает отдельное дообучение или специализированные сценарии применения.

jina-reranker-v1-tiny-en — модель переранжирования текстов, разработанная Jina AI на основе архитектуры JinaBERT, варианта BERT с двунаправленным ALiBi. Компактная модель содержит около 32,9 млн параметров и обрабатывает последовательности длиной до 8192 токенов. Модель оценивает релевантность пар «запрос — документ» и помогает переставлять результаты поиска так, чтобы наиболее подходящие документы оказались выше. Её можно применять для поиска по коллекциям документов и отбора контекста для RAG-систем. Модель обучена методом дистилляции: более крупная модель выступала учителем, а tiny-версия рассчитана на быстрый вывод с некоторой уступкой в качестве ранжирования. Модель предназначена для англоязычных текстов. В репозитории доступны форматы PyTorch, Safetensors и ONNX; библиотека — Transformers. Лицензия Apache-2.0. Результаты бенчмарков в карточке показывают конкурентное качество, однако сама карточка отмечает, что tiny-версия ориентирована на скорость и уступает более крупной модели по точности.

jina-reranker-v1-tiny-en-GGUF — англоязычная модель для переранжирования результатов поиска, разработанная Jina AI. Это GGUF-квантизация исходной модели jina-reranker-v1-tiny-en, подготовленная на основе версии llama.cpp с идентификатором f4d2b. Модель предназначена для оценки релевантности документов относительно поискового запроса и сортировки найденных результатов, в том числе в системах семантического поиска и retrieval-augmented generation. В основе модели лежит JinaBERT — вариант архитектуры BERT с симметричным двунаправленным механизмом ALiBi, поддерживающим обработку последовательностей длиной до 8192 токенов. Модель имеет 4 слоя, скрытый размер 384 и около 33 миллионов параметров. Она работает с текстом на английском языке и относится к архитектуре cross-encoder, то есть совместно анализирует запрос и каждый документ. Для повышения скорости используется knowledge distillation: компактная модель-ученик перенимает знания более крупной jina-reranker-v1-base-en. Ключевые преимущества модели — высокая скорость вывода, небольшой размер и возможность обрабатывать длинные тексты при сохранении конкурентной точности. Ограничением является специализация на английском языке и компромисс между скоростью и точностью: по сравнению с более крупными моделями она ориентирована на сценарии, где максимальная точность менее важна. В README указана лицензия Apache-2.0.

jina-reranker-v3.5-GGUF — это квантизированная GGUF-версия мультиязычной listwise-модели переранжирования jina-reranker-v3.5, разработанной Jina AI. Модель предназначена для оценки релевантности документов относительно поискового запроса и улучшения результатов информационного поиска, включая доменно-ориентированные сценарии. Она может использоваться локально через llama.cpp и Python-обёртку GGUFReranker. Модель работает с текстом и поддерживает мультиязычные входные данные. В основе используется архитектура с гибридным вниманием и само-дистилляцией; исходная реализация требует некаузального режима encoder и отдельного MLP-проектора. Доступны варианты квантизации от BF16 до низкобитных IQ- и Q-форматов размером примерно от 1,2 ГБ до 199 МБ. Для работы также необходимы projector.safetensors, tokenizer.json, совместимая сборка llama-embedding и зависимости Python; официальная версия llama.cpp на момент описания не поддерживает все требуемые функции. К сильным сторонам относятся мультиязычность, возможность listwise-переранжирования и широкий выбор вариантов квантизации для различного баланса качества и потребления памяти. Ограничениями являются необходимость специальной сборки llama.cpp, отдельных файлов проектора и токенизатора, а также потенциальная потеря качества в низкобитных вариантах. Модель и её GGUF-реализация распространяются по лицензии CC BY-NC 4.0, допускающей использование с некоммерческими ограничениями; по вопросам коммерческого применения рекомендуется обращаться к Jina AI.

K2-Horizon-MoVA-36B-A4B-bf16 — конверсия модели IFM/K2-Horizon-MoVA-36B-A4B в формат MLX с точностью bf16, опубликованная сообществом mlx-community. Это разреженная языковая модель MoE с 36 млрд параметров и примерно 4 млрд активных параметров на токен; в механизме внимания MoVA значения выбираются из 4 из 64 маршрутизируемых экспертов. Модель предназначена для генерации текста и диалогов, включая рассуждения и многошаговое взаимодействие, и поддерживает контекст до 524 288 токенов. Сборка ориентирована на компьютеры Apple с Apple silicon и работает через mlx-lm. README сообщает о проверке реализации на реальных весах относительно кода PyTorch IFM и о тестировании генерации и серверного диалога. Для короткого запроса требуется около 75 ГБ памяти; автор рекомендует Mac с 128 ГБ. В репозитории поставляется код модели, загружаемый через model_file; при использовании может потребоваться разрешить trust_remote_code. Лицензия — Apache-2.0.

Это дообученная разговорная модель devsungyeon на базе kakaocorp/kanana-1.5-8b-instruct-2505. Она предназначена для генерации текста в диалогах; метаданные также указывают интерфейс вызова инструментов. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 7,5 млрд параметров, работает с контекстом до 32 768 токенов и распространяется в формате Safetensors. Карточка сообщает, что модель обучали с использованием Unsloth и библиотеки TRL. Лицензия — Apache-2.0. Язык карточки и языковой тег — английский; более широкие языковые возможности базовой модели не подтверждают отдельное назначение этой версии для других языков.

Карточка модели PS4Research/kE5nV8hA3yW4jT7s на Hugging Face совпадает с карточкой PS4Research/EVPdEf4TUz3pRa2u, поэтому описание составлено по ней. PS4Research/EVPdEf4TUz3pRa2u — дообученная языковая модель семейства Qwen3, разработанная PS4Research на базе unsloth/Qwen3-14B-bnb-4bit с использованием Unsloth и библиотеки TRL. Модель содержит 14 млрд параметров, построена на плотной архитектуре Qwen3ForCausalLM и принимает текст для генерации текста; поддерживает диалоговый интерфейс и интерфейс вызова инструментов. Модель предназначена для генерации текста и диалоговых сценариев. Её контекстное окно составляет 40 960 токенов. В карточке указан английский язык. Модель распространяется по лицензии Apache-2.0. Специализация дообучения и его качество в карточке не раскрыты.

MLX-версия модели Kimi-K2-Thinking, разработанная сообществом mlx-community на основе модели moonshotai/Kimi-K2-Thinking. Модель предназначена для генерации текста и запуска в экосистеме MLX с использованием библиотеки mlx-lm, включая сценарии диалогового взаимодействия через chat template. Известно, что модель имеет формат MLX и была преобразована с помощью mlx-lm версии 0.28.4. В карточке указано назначение text-generation, однако сведения об архитектуре, размере, объёме контекста, поддерживаемых языках и модальностях отсутствуют. Для работы требуется библиотека mlx-lm; в примере используется загрузка модели через mlx_lm.load и генерация ответа через mlx_lm.generate. Лицензия обозначена как modified-MIT с типом other. Подробные условия лицензии, а также ограничения и результаты оценки качества в карточке не приведены.

KAT-Dev-72B-Exp-GGUF — это квантизированная версия языковой модели KAT-Dev-72B-Exp, разработанной Kwaipilot. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска в локальных средах, совместимых с форматом GGUF, включая LM Studio и llama.cpp. Модель имеет размер 72B параметров и поддерживает множество вариантов квантизации — от Q8_0 до низкоразрядных Q2 и IQ-квантов. Доступны файлы размером примерно от 29,81 до 77,26 ГБ; варианты Q5 и Q6 рекомендованы как обеспечивающие высокое качество, а Q4 — как компромисс между качеством и требованиями к памяти. Для работы следует использовать указанный формат чата с маркерами system, user и assistant. Сильной стороной модели является возможность локального запуска и выбора квантизации под доступный объём памяти, однако даже наиболее компактные варианты требуют значительных аппаратных ресурсов, а снижение разрядности приводит к ухудшению качества. В README не указаны поддерживаемые языки, длина контекста, дополнительные модальности и лицензия исходной модели или квантизированных файлов.

L3.3-70B-Magnum-v4-SE-GGUF — набор GGUF-квантизаций модели L3.3-70B-Magnum-v4-SE, подготовленный bartowski на базе модели Doctor-Shotgun. Квантизация выполнена с помощью llama.cpp с использованием imatrix и предназначена для локального запуска, в частности через LM Studio. Модель относится к классу text-generation и ориентирована на генерацию текста и диалоговые сценарии; в метаданных указана поддержка английского языка и тег chat. Доступны варианты с разными уровнями квантизации — от Q8_0 размером около 75 ГБ до IQ2_S размером около 24 ГБ. Более крупные варианты обеспечивают более высокое качество, а компактные требуют меньше оперативной памяти, но заметно уступают по качеству. Для большинства сценариев рекомендуются Q4_K_M, Q5_K_M, Q5_K_S и Q6_K; некоторые варианты оптимизированы для CPU ARM, Apple Silicon или систем с ограниченным объёмом памяти. Из README не указаны точная архитектура исходной модели, размер контекстного окна, поддерживаемые модальности помимо текста и результаты независимого тестирования. Модель распространяется по лицензии llama3.3; условия использования следует уточнять в лицензии исходной модели и на странице репозитория.

LeoLM/leo-hessianai-13b-chat — немецко-английская чат-модель, разработанная в проекте LAION и HessianAI при участии Бьёрна Плюстера и Кристофа Шу. Это причинная decoder-only трансформерная модель семейства Llama с 12,9 млрд параметров и контекстом до 8192 токенов. Она дообучена на основе LeoLM/leo-hessianai-13b на подборке немецкоязычных инструкционных датасетов и предназначена для диалога, написания текстов, объяснений и обсуждений. Модель особенно хорошо показала себя в гуманитарных задачах, письме и ролевом диалоге; слабее справляется с математикой и сложными рассуждениями. Поддерживает немецкий и английский языки. Доступна в формате PyTorch через Transformers под лицензией Llama 2 Community License; перед применением следует проверять точность, смещения и безопасность ответов.

Это чат-модель Llama 2 Chat на 13 млрд параметров, разработанная Meta и размещённая в формате Transformers с весами PyTorch. Репозиторий содержит копию meta-llama/Llama-2-13b-chat-hf с весами, разбитыми на части для загрузки. Архитектура — плотный авторегрессионный трансформер LlamaForCausalLM; контекст — до 4096 токенов. Модель принимает текст и генерирует текст. Модель оптимизирована для диалогов в формате помощника: она может отвечать на вопросы, вести беседу и выполнять текстовые инструкции. Для ожидаемого поведения чат-варианту требуется форматирование запросов с маркерами инструкций и специальными токенами. В карточке указано назначение для английского языка; применение на других языках исключено из заявленного сценария. Модель дообучена с учителем и с использованием обучения с подкреплением на основе отзывов людей для повышения полезности и безопасности. Использование регулируется специальной коммерческой лицензией Meta: перед загрузкой весов необходимо принять условия лицензии. Возможны неточные, предвзятые или нежелательные ответы; перед внедрением нужны проверки и настройка безопасности для конкретного применения.

RedHatAI/Llama-2-7b-dolphin-open_platypus-pruned_70 — разреженная на 70% модель Llama 2 с 6,6 млрд параметров, дообученная на следование инструкциям на смеси наборов Platypus, OpenOrca и Dolphin. Она предназначена для генерации текста в ответ на инструкции и может запускаться через библиотеку Transformers; для ускоренного инференса с использованием разреженности в README упоминаются nm-vllm и deepsparse. Контекст модели — до 4096 токенов. В приведённых бенчмарках модель уступает Llama-2-7b-instruct: например, результаты составляют 42,33% против 48,60% на MMLU, 77,21% против 79,45% на HellaSwag и 71,90% против 75,69% на WinoGrande. Репозиторий содержит веса safetensors. Сведения о лицензии в предоставленных данных отсутствуют.

ApolloRaines/Llama-3.1-8B-Instruct.immunized.v2 — дообученная модель на архитектуре Llama 3.1 от разработчика ApolloRaines с применением проприетарного конвейера jBlaze. Она предназначена для диалогов и генерации текста, в том числе в системах с поиском по документам и агентами, где важно снизить риск утечки приватного контекста из-за атак EchoLeak и связанных с ними prompt injection. По карточке, модель содержит 7,5 млрд параметров, поддерживает контекст до 131 072 токенов и рассчитана на английский язык. Доступны веса Safetensors и варианты GGUF в форматах F16 и нескольких уровнях квантования; заявлен стандартный интерфейс Transformers без дополнительных компонентов во время выполнения. Автор сообщает о результатах тестирования защиты: 100 из 100 атак в canary-наборе и 83 из 100 в более сложном наборе атак на ролевые сценарии. Это результаты конкретных тестов, а не гарантия защиты в реальном развертывании. По README, остальные классы атак, включая jailbreak, а также отказы и галлюцинации не изменены; в ролевом тесте остаётся уязвимым определённый сценарий с приватными данными в системном промпте. Лицензия — Llama 3.1.

amd/Llama-3.1-8B-Instruct-w4a16-asym-torchao-v0.17.0 — квантизированная версия языковой модели Llama-3.1-8B-Instruct, созданная Advanced Micro Devices (AMD) с использованием TorchAO. Модель предназначена для генерации текста и запуска инференса на CPU AMD EPYC, прежде всего в Linux-средах, через vLLM и оптимизированный для ZenDNN стек. Модель построена на архитектуре LlamaForCausalLM, принимает и генерирует текст, поддерживает английский язык и содержит около 8 млрд параметров в исходной версии. Применяется 4-битная асимметричная квантизация только весов W4A16 с размером группы 128; квантизированы линейные слои, за исключением lm_head и embed_tokens. Ключевая особенность — оптимизация для CPU-инференса AMD EPYC с использованием ZenDNN, ZenTorch, PyTorch 2.11.0, TorchAO 0.17.0 и vLLM 0.20.2. Сильными сторонами модели являются снижение требований к памяти и ориентация на производительный инференс на совместимых AMD CPU. Ограничения включают отсутствие заявленной поддержки GPU, зависимость от точных версий программного стека и невозможность загрузки в других версиях PyTorch; используемый путь квантизации специфичен для ZenDNN и недоступен в стандартном PyTorch. Результаты оценки качества в README не приведены. Модель распространяется по той же лицензии, что и исходная Llama-3.1-8B-Instruct; отдельно указаны изменения, авторские права на которые принадлежат AMD.

Llama3 8B CPT Sahabat-AI v1 — языковая модель на архитектуре Llama, разработанная PT GoTo Gojek Tokopedia Tbk и AI Singapore в рамках экосистемы Sahabat-AI, созданной совместно с Indosat Ooredoo Hutchison. Это базовая модель с продолженным предобучением на примерно 50 млрд токенов поверх instruct-модели AI Singapore Sea-Lion v2.1. Модель содержит 7,5 млрд параметров и принимает текст, выдавая текст; она рассчитана на английский, индонезийский, яванский и сунданский языки. Контекст составляет до 8192 токенов. Модель предназначена для генерации текста и общего языкового понимания, в частности для вопросов и ответов, анализа тональности и токсичности, суммаризации, причинно-следственных рассуждений, NLI и перевода между английским и местными языками Индонезии. Карточка приводит результаты оценки на SEA HELM/BHASA и англоязычных бенчмарках, но численные таблицы в предоставленном тексте опущены. Доступна по Llama 3 Community License; перед использованием следует учитывать её условия.

MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.2 — диалоговая языковая модель, созданная MaziyarPanahi методом DPO дообучения Meta Llama 3 8B Instruct. Модель использует архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. Она принимает текстовые сообщения в шаблоне ChatML и генерирует текстовые ответы.

Llama-3-8B-instruct-x-OrpoLlama-3-8B — объединённая диалоговая модель на базе Llama 3, созданная с помощью LazyMergekit. В конфигурации указаны Llama-3-8B-instruct от AI-Sweden-Models и mlabonne/OrpoLlama-3-8B; применён метод слияния dare_ties с параметрами density 0,53, weight 0,6 и маской int8. Веса сохранены в формате bfloat16. Модель предназначена для диалоговой генерации текста и ответов на запросы в чате. Она содержит около 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст до 8192 токенов. Метаданные указывают на дообученную базовую модель mlabonne/OrpoLlama-3-8B; описание базовой модели отмечает шаблон ChatML. Сведений о лицензии и поддерживаемых языках в предоставленных данных нет.

Карточка модели princeton-nlp/Llama-3-Instruct-8B-ORPO-v0.2 на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Instruct-8B-SimPO-v0.2, поэтому описание составлено по ней. Llama-3-Instruct-8B-SimPO-v0.2 — диалоговая языковая модель семейства Llama, выпущенная командой Princeton NLP как модель из работы SimPO (Simple Preference Optimization with a Reference-Free Reward). Она предназначена для генерации текста в формате инструкций и диалога. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Модель связана с исследованием оптимизации предпочтений без эталонной модели. В карточке не приведены подробности обучения, оценки качества или специальные области применения; метаданные указывают поддержку чата и формат весов safetensors. Лицензия в предоставленных данных не указана.

LLaMA3-iterative-DPO-final-GGUF — это набор квантованных версий языковой модели LLaMA3-iterative-DPO-final, опубликованный bartowski на основе исходной модели RLHFlow/LLaMA3-iterative-DPO-final. Модель предназначена для генерации текста и запуска через llama.cpp; в README приведён формат чата с системными, пользовательскими и ассистентскими сообщениями. Модель поставляется в формате GGUF с различными уровнями квантования: от Q8_0 размером 8,54 ГБ до наиболее компактных вариантов IQ1 и IQ2. Версии Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_NL и IQ4_XS отмечены как рекомендуемые; более низкие уровни экономят оперативную память, но снижают качество. Квантование выполнено с использованием imatrix и llama.cpp версии b2854. README не содержит сведений о числе параметров, архитектурных деталях исходной модели, поддерживаемых языках, размере контекста, мультимодальности или результатах бенчмарков. Модель распространяется по лицензии llama3; условия этой лицензии следует учитывать при использовании.

Llama-3-Stheno-Instruct-8B — англоязычная разговорная модель на архитектуре Llama 3, созданная автором репозитория объединением моделей Sao10K/L3-8B-Stheno-v3.2 и Undi95/Meta-Llama-3-8B-Instruct-hf методом SLERP с помощью mergekit. Модель содержит 7,5 млрд параметров, принимает текстовые запросы и генерирует текст; контекстное окно составляет 8192 токена. Модель предназначена для диалогов, выполнения инструкций и создания текстов, включая ролевые беседы и истории. Веса доступны в формате safetensors, а лицензия указана как llama3. Использование модели требует соблюдения условий этой лицензии.