I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельLFM2.5-1.2B-Distilled-Claude-4.6 (Liquid Claude) — компактная языковая модель FlameF0X на архитектуре LFM2, дообученная методом дистилляции Claude Sonnet 4.6 Adaptive Thinking в LiquidAI/LFM2.5-1.2B-Thinking с помощью LoRA. Модель содержит 1,5 млрд параметров и рассчитана на генерацию текста в формате диалога, рассуждения и агентные сценарии; карточка приводит пример использования через Transformers. Модель обучена на частных данных, описанных автором как диалоги Claude Sonnet 4.6; в карточке указаны примеры цепочек рассуждений и агентных блоков с вызовами инструментов. Заявлено контекстное окно 128 000 токенов. Основной язык карточки и тегов — английский. Автор приводит результаты нескольких бенчмарков, но они не являются независимой оценкой качества модели. Лицензия — Apache-2.0.
TroyDoesAI/Llama-3.1-13B-Instruct — текстовая диалоговая модель на архитектуре Llama, созданная разработчиком TroyDoesAI с помощью mergekit. В README указан метод объединения passthrough и модель TroyDoesAI/Llama-3.1-8B-Instruct в составе слияния; метаданные каталога классифицируют её как дообучение этой базовой модели. Репозиторий содержит веса в формате safetensors, модель насчитывает 12,7 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста в диалогах и других сценариях, где нужен ответ на текстовый запрос. Карточка не описывает отдельные специализированные области или дополнительные возможности сверх диалоговой генерации. Условия лицензии в предоставленных материалах не указаны.
win10/llama3-13.45b-Instruct — объединённая плотная языковая модель семейства Llama 3 для генерации текста и диалогов. В README указано, что модель создана с помощью mergekit методом passthrough; метаданные связывают её с Meta-Llama-3-8B-Instruct. Размер модели — 12,7 млрд параметров, архитектура — LlamaForCausalLM, максимальный контекст — 8192 токена. Карточка указывает поддержку английского языка и диалоговый сценарий. Модель распространяется по лицензии Llama 3; перед использованием следует учитывать её условия.
Карточка модели triplee/llama3.1_8b_cardiff_2024-08-19_merge на Hugging Face совпадает с карточкой triplee/llama3.1_8b_2S1S_v5_merge, поэтому описание составлено по ней. Модель triplee/llama3.1_8b_2S1S_v5_merge — дообученная текстовая модель семейства Llama 3.1, разработанная triplee на основе unsloth/meta-llama-3.1-8b-instruct. Она предназначена для генерации текста и диалоговых сценариев; в метаданных также заявлен интерфейс вызова инструментов. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Для обучения использовались Unsloth и библиотека TRL; файлы представлены в формате safetensors. Лицензия — Apache-2.0.
Enigma — модель для генерации кода и диалогов, созданная Valiant Labs на основе Meta Llama 3.1 8B Instruct. Это плотная причинная языковая модель семейства Llama с 7,5 млрд параметров и контекстом до 131 072 токенов, предназначенная для работы в формате инструкций и чата Llama 3.1. Модель дообучена на синтетических данных для инструкций по программированию, сгенерированных Llama 3.1 405B, а также на общих диалоговых данных. Enigma подходит для генерации и объяснения кода, помощи с Python и ответов на общие вопросы в чате. Карточка заявляет усиленные возможности code-instruct и сохранение общих диалоговых навыков; метаданные также указывают поддержку следования инструкциям и интерфейс вызова инструментов. Модель работает с текстом и ориентирована на английский язык. Для использования применяется лицензия Llama 3.1; условия лицензии следует учитывать при распространении и коммерческом применении.
Модель promotion/Llama-3.1-8B-NBPO-UltraFeedback-clean разработана на основе meta-llama/Llama-3.1-8B-Instruct и дообучена методом Nash Bargaining Preference Optimization (NBPO) на парах предпочтений из UltraFeedback. В этой версии обучающие пары отфильтрованы так, чтобы их запросы не пересекались с 698 оценочными запросами; после фильтрации осталось 34 026 пар по 5 671 запросу. Модель предназначена для диалоговой генерации текста с выполнением инструкций. Обучение ориентировано на следование инструкциям, правдивость, честность и полезность ответов. Основа — плотная архитектура Llama с 7,5 млрд параметров; заявленный контекст — до 131 072 токенов. Репозиторий использует Transformers и формат safetensors. В README описана исследовательская оценка на отложенных запросах UltraFeedback, но конкретные численные результаты для этой модели не приведены. Модель распространяется по лицензии Llama 3.1; применяются её условия использования.
MInAlA/Llama-3.2-3B-DPO-merged — диалоговая языковая модель на архитектуре Llama, полученная выравниванием Llama-3.2-3B-Instruct методом DPO на наборе предпочтений argilla/ultrafeedback-binarized-preferences. Модель содержит 3,2 млрд параметров, принимает текст и генерирует текст; поддерживает контекст до 131072 токенов и предназначена для использования через библиотеку Transformers. Модель подходит для диалогов, генерации ответов и других текстовых задач общего назначения. В метаданных указаны мультиязычные возможности базовой модели, но конкретный перечень языков для этой производной модели не приведён. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.
Llama-3-Instruct-8B-SimPO-v0.2 — диалоговая языковая модель семейства Llama, выпущенная командой Princeton NLP как модель из работы SimPO (Simple Preference Optimization with a Reference-Free Reward). Она предназначена для генерации текста в формате инструкций и диалога. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Модель связана с исследованием оптимизации предпочтений без эталонной модели. В карточке не приведены подробности обучения, оценки качества или специальные области применения; метаданные указывают поддержку чата и формат весов safetensors. Лицензия в предоставленных данных не указана.
Llama 4 Scout — мультимодальная инструкционная модель Meta на архитектуре Mixture of Experts с ранним объединением текстовой и визуальной информации. Репозиторий Unsloth содержит вариант, описанный как исходная модель Llama 4 Scout без изменений, подготовленный для дообучения средствами Unsloth; метаданные указывают базовую модель meta-llama/Llama-4-Scout-17B-16E-Instruct. В README Scout описана как модель с 17 млрд параметров и 16 экспертами. Модель предназначена для диалогов с ассистентом, понимания изображений и визуальных рассуждений: она может описывать изображения, распознавать визуальное содержимое и отвечать на вопросы о нём. Заявлена поддержка арабского, английского, французского, немецкого, хинди, индонезийского, итальянского, португальского, испанского, тагальского, тайского и вьетнамского языков. README сообщает, что модель тестировалась на входах до пяти изображений. Модель доступна по пользовательской лицензии Llama 4 Community License Agreement с условиями коммерческого и исследовательского использования и соблюдением Acceptable Use Policy. К ограничениям относятся статичный обучающий набор, отсутствие гарантии будущих обновлений и необходимость дополнительного тестирования при подаче более пяти изображений или использовании за пределами явно поддерживаемых языков и возможностей.
M7Yamshadowexperiment28_T3qT3qm7 — объединённая языковая модель на архитектуре Mistral, созданная из automerger/M7Yamshadowexperiment28-7B и automerger/T3qT3qm7-7B. Модель содержит 7,1 млрд параметров и принимает текст для авторегрессионной генерации текста; заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста и диалога. По описанию базовой модели, она также подходит для ответов на математические запросы. Данных о специальной отраслевой настройке или поддерживаемых языках нет. Весовые файлы представлены в формате safetensors. Лицензия — Apache-2.0. Качество ответов может различаться в зависимости от запроса; подтверждённых сведений о точности и специальных ограничениях в карточке нет.
MamayLM-Gemma-3-12B-IT-v2.0 — украиноязычная адаптация мультимодальной модели Gemma 3 от INSAIT-Institute, дообученная на базе google/gemma-3-12B-it. Это плотная модель с архитектурой Gemma3ForConditionalGeneration, предназначенная для диалогов, следования сложным инструкциям и понимания изображений вместе с текстом. Доступны версии MamayLM v2.0 размером 12B и 27B; этот репозиторий содержит вариант 12B. Модель подходит для вопросов по изображениям, многоходовых бесед и задач на украинском языке, а также поддерживает английский. В README указаны данные предварительного обучения до мая 2025 года и инструкционного дообучения до октября 2025 года. Для работы с изображениями следует избегать динамической квантизации vision tower и мультимодального проектора через параметр vLLM quantization="fp8": README предупреждает, что это приводит к некорректным результатам на изображениях. Репозиторий распространяется по лицензии Gemma.
Matter-0.1-7B-DPO-preview — диалоговая языковая модель семейства Mistral, разработанная 0-hero. Это версия Mistral 7B, дообученная методом DPO на наборе Matter, сформированном из более чем 35 датасетов; модель содержит 7,1 млрд параметров и использует архитектуру MistralForCausalLM. Она предназначена для диалогов и генерации текста, а также поддерживает интерфейс вызова функций. Для общения используется формат ChatML, контекст составляет до 32 768 токенов. Карточка указывает английский язык. Модель распространяется под лицензией Apache-2.0.
MBX-7B-v3 — языковая модель на архитектуре Mistral, представленная Flemming Miguel. В README модель описана как слияние через LazyMergekit моделей flemmingmiguel/MBX-7B и flemmingmiguel/MBX-7B-v3 методом SLERP; при этом в качестве базовой модели указана flemmingmiguel/MBX-7B-v3. Репозиторий содержит веса Safetensors, а README также упоминает квантованный формат GGUF. Модель предназначена для генерации текста. Её размер составляет 7,1 млрд параметров, длина контекста — 32 768 токенов. Карточка не сообщает о специализации на конкретном языке или предметной области. Модель распространяется по лицензии Apache-2.0.
MeliodasT3q_AlloyingotneoyNeuralsirkrishna — объединённая языковая модель, опубликованная MaziyarPanahi. В README указано, что она объединяет automerger/MeliodasT3q-7B и automerger/AlloyingotneoyNeuralsirkrishna-7B. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров; для генерации текста доступно контекстное окно до 32 768 токенов. Модель предназначена для генерации текста по текстовому запросу. Репозиторий содержит веса в формате Safetensors и распространяется по лицензии Apache-2.0.
Meta-Llama-3-8B-Instruct-abliterated-v3-IMat-GGUF — это GGUF-квантизованная версия модели failspy/Meta-Llama-3-8B-Instruct-abliterated-v3, подготовленная пользователем legraphista с использованием llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые инструменты, такие как llama.cpp. В основе лежит модель размером 8 миллиардов параметров с исходным форматом BF16 и архитектурой семейства Meta Llama 3. Репозиторий содержит варианты с точностью от 1 до 16 бит, включая BF16, FP16, Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K. Для ряда вариантов применена IMatrix-квантизация, призванная лучше сохранять качество при уменьшении размера модели. Доступны файлы размером примерно от 3,18 до 16,07 ГБ; точные поддерживаемые языки и размер контекстного окна в README не указаны. Сильные стороны модели — выбор разных уровней квантизации, возможность локального запуска и снижение требований к памяти по сравнению с полноразмерными вариантами. При этом более агрессивная квантизация может приводить к снижению качества, а конкретные характеристики зависят от выбранного файла. Модель распространяется по лицензии Llama 3; условия использования следует уточнять в тексте этой лицензии.
mini-magnum-12b-v1.1 — диалоговая instruct-модель на архитектуре Mistral, обученная alpindale при участии команды, указанной в карточке. Она предназначена для генерации текста в формате беседы и использует шаблон запросов Mistral с маркерами [INST] и [/INST]. Модель содержит 12,1 млрд параметров, распространяется в формате safetensors и рассчитана на контекст до 1 024 000 токенов. В метаданных перечислены английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский языки. Лицензия — Apache-2.0. Карточка описывает формат промптинга и участников обучения, но не приводит подробностей об оценке качества или конкретных специализациях. Поэтому модель уместно рассматривать как универсальную разговорную модель; качество на отдельных языках и задачах следует проверять самостоятельно.
JANGQ-AI/MiniMax-M2.7-JANG_4M — квантизированная версия MiniMax M2.7, подготовленная Jinho Jang с помощью JANG Tools. Это текстовая MoE-модель с 228,7 млрд параметров и профилем смешанной точности 4,06 бита: внимание и выходной слой сохранены в 8-битном формате, эмбеддинги и экспертные MLP — в 4-битном, маршрутизатор — в float16. В метаданных указано 2,9 млрд параметров; README описывает исходную модель как 228,7-миллиардную, а размер этого профиля — около 115 ГБ. Модель предназначена для диалогов и генерации текста с рассуждением, а также для сценариев с вызовом инструментов. Она поддерживает контекст до 196 608 токенов и рассчитана на запуск на Apple Silicon через MLX Studio, которое включает загрузчик JANG; стандартный mlx_lm смешанную точность JANG не загружает. README приводит результаты 191/200 на MMLU для профиля JANG_4M, но это ограниченное сравнение на 200 вопросах, а результаты для MiniMax M2.7 названы ожидающими подтверждения. Для запуска требуется Mac на Apple Silicon с 128 ГБ объединённой памяти и MLX; автор рекомендует MLX Studio. Модель всегда выполняет рассуждение перед ответом, а README предупреждает, что температура 0 может приводить к бесконечным циклам рассуждений. Лицензия MiniMax M2.7 некоммерческая: коммерческое использование требует предварительного письменного разрешения MiniMax.
Это квантованная в формате GGUF версия Ministral 8B Instruct 2410 abliterated, подготовленная mradermacher на основе модели realoperator42/ministral-8B-Instruct-2410-abliterated. Модель предназначена для генерации текста и ведения диалогов, включая локальный запуск совместимых с GGUF инструментов и приложений. Заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Модель относится к семейству Ministral и имеет около 8 миллиардов параметров, однако подробные сведения об архитектуре, размере контекста и поддерживаемых модальностях в README не указаны. Доступны варианты квантования от наиболее компактных IQ1 до более качественных Q5, с размерами файлов примерно от 2,1 до 5,7 ГБ. В README рекомендуется вариант i1-Q4_K_M как быстрый, а i1-Q4_K_S — как компромисс между размером, скоростью и качеством; низкобитные варианты могут заметно уступать по качеству. К преимуществам относятся широкий выбор квантований и возможность запуска на ограниченных аппаратных ресурсах. Ограничения включают потенциальное снижение качества при сильном квантовании, отсутствие описания результатов тестирования и неполные сведения о характеристиках базовой модели. Информация о лицензии в README не указана.
Карточка модели NostraEmpire/mirror-qwen2.5-omni-7b на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Omni-7B, поэтому описание составлено по ней. Qwen2.5-Omni-7B — мультимодальная модель семейства Qwen, разработанная командой Qwen компании Alibaba. Она использует архитектуру Thinker-Talker для сквозной обработки текста, изображений, аудио и видео и потоковой генерации текста и естественной речи. Временные позиционные представления TMRoPE синхронизируют видеокадры со звуком. Модель предназначена для мультимодального диалога в реальном времени, включая голосовое и видеообщение, распознавание и понимание речи, анализ изображений и видео, следование инструкциям на слух и генерацию речи. Карточка сообщает о результатах на тестах мультимодального рассуждения, понимания видео, речи и перевода; модель работает через Transformers и хранит веса в формате safetensors. Модель принимает текст, изображения, аудио и видео, а выдаёт текст и аудио. В README не приведены сведения о лицензии, позволяющие назвать её условия: метаданные указывают лицензию «other».
Это преобразованная для MLX 4-битная версия Mixtral-8x22B-v0.1, опубликованная сообществом mlx-community; конвертацию выполнил Prince Canuma с помощью mlx-lm 0.4.0. Модель относится к архитектуре Mixtral с разреженной смесью экспертов (MoE) и предназначена для генерации текста, в том числе диалоговых ответов и продолжения текстовых запросов. В метаданных указаны 22 млрд параметров и контекст до 65 536 токенов. Версия использует 4-битное представление весов в формате safetensors и ориентирована на запуск через MLX на совместимом оборудовании Apple. Карточка перечисляет английский, французский, итальянский, немецкий и испанский языки. Репозиторий распространяется по лицензии Apache-2.0. Качество и скорость генерации зависят от оборудования и выбранных настроек MLX; подробности о сильных сторонах и ограничениях исходной модели следует сверять с её карточкой.
Moonlight-16B-A3B-Instruct-Bruno — чат-модель rawcell, полученная модификацией MoonshotAI Moonlight-16B-A3B-Instruct методом MoE gate abliteration с настройкой Bruno. Она предназначена для генерации текста и ответов на инструкции; модификация снижает частоту отказов. Модель использует архитектуру Mixture-of-Experts: 16 млрд параметров всего и около 3 млрд активных. По метаданным, контекст составляет 8192 токена; модель работает через Transformers и распространяется в формате safetensors. В README сообщается о проверке на MMLU, HellaSwag и GSM8K, а также о снижении отказов на тестовом наборе запросов. Эти результаты приведены авторами карточки и не гарантируют аналогичное качество в других сценариях. Для запуска указаны минимум 32 ГБ VRAM с квантизацией и рекомендация от 48 ГБ VRAM. Лицензия — Apache-2.0.
NeuralsirkrishnaShadow_M7Alloyingotneoy — объединённая модель для генерации текста, созданная на основе automerger/NeuralsirkrishnaShadow-7B и automerger/M7Alloyingotneoy-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; длина контекста составляет до 32 768 токенов. Модель подходит для генерации продолжений текста и диалоговых ответов в приложениях на базе языковых моделей. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.
NeuralsirkrishnaShadow_ShadowYamshadow — объединённая языковая модель, созданная из automerger/NeuralsirkrishnaShadow-7B и automerger/ShadowYamshadow-7B. Модель разработана в формате Mistral и содержит 7,1 млрд параметров; она предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель принимает текстовые запросы и генерирует текст, поэтому подходит для диалога и других задач, сводящихся к продолжению текста. Репозиторий распространяет веса в формате safetensors по лицензии Apache-2.0. В карточке не приведены сведения о языковой специализации или результатах оценки качества.
Nous Hermes 2 SOLAR 10.7B — чат-модель Nous Research, дообученная на базе Upstage SOLAR-10.7B-v1.0. Для обучения использован набор примерно из миллиона примеров, преимущественно сгенерированных GPT-4, а также данные из открытых наборов. Модель с архитектурой Llama и 10,6 млрд параметров предназначена для генерации текста, диалогов и выполнения инструкций; она использует шаблон ChatML для многоходового общения и поддерживает контекст до 4096 токенов. Модель рассчитана на англоязычные запросы. В карточке приведены результаты нескольких бенчмарков и заявлено улучшение относительно базовой SOLAR-10.7B, однако приведённых данных недостаточно для независимой оценки качества. Распространяется по лицензии Apache-2.0.
Nous-Hermes-2-SOLAR-10.7B-pruned2.4 — чат-модель на 10,6 млрд параметров, подготовленная Red Hat AI для запуска через высокопроизводительный движок NM-vLLM. Она основана на Nous-Hermes-2-SOLAR-10.7B и оптимизирована разреживанием весов с помощью SparseGPT для снижения потребления памяти и ускорения обслуживания; архитектура — Llama, формат файлов — PyTorch. Модель предназначена для диалогов, генерации текста и выполнения инструкций. Она принимает текст и выдаёт текст, поддерживает контекст до 4096 токенов; в карточке базовая модель описана как англоязычная. Для запуска README рекомендует NM-vLLM с поддержкой sparse-моделей. Лицензия в предоставленных данных не указана.
Это GGUF-квантизация модели openai/gpt-oss-120b, подготовленная пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие проекты на его основе. README не указывает точный формат промптов и не содержит сведений о поддерживаемых языках или максимальном контексте; для них рекомендуется обращаться к странице исходной модели. Основной рекомендуемый файл — gpt-oss-120b-MXFP4_MOE.gguf размером 63,39 ГБ. Архитектура использует MoE-компоненты, а feed-forward networks сохранены в специальном формате MXFP4, поскольку, согласно описанию, они плохо ведут себя при других вариантах квантизации. Также доступны варианты BF16, Q6_K, Q4_K и другие, однако их выигрыш в размере минимален. Модель является текстовой и не заявлена как мультимодальная. Сильная сторона сборки — возможность локального запуска крупной модели в экосистеме llama.cpp при сохранении FFN в рекомендованном формате MXFP4_MOE. Ограничения включают очень большой размер файлов, необходимость совместимого оборудования и программного обеспечения, а также отсутствие в README сведений о производительности, лицензии, языках и контекстном окне. Условия лицензирования в предоставленных данных не указаны.
MaziyarPanahi/openbuddy-zephyr-7b-v14.1-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.2 и OpenBuddy/openbuddy-zephyr-7b-v14.1; в репозитории указаны веса Safetensors в формате bfloat16. Модель предназначена для генерации текста и ответов в диалоге по инструкциям, а контекст составляет до 32 768 токенов. Модель подходит для чат-ботов и сценариев, где нужно формулировать ответы на текстовые запросы. В карточке Hugging Face указана лицензия Apache-2.0. Сведения о целевых языках и специальных областях применения в предоставленных материалах отсутствуют.
OpenYourMind выпустил вариант NVIDIA Nemotron-3-Ultra-550B-A55B с ослабленными отказами на запросы: в веса внесена правка методом abliteration, а сама модель представлена в формате NVFP4. Архитектура NemotronHForCausalLM сочетает Mamba-2, Attention и Latent-MoE; в README указаны 550 млрд параметров всего и 55 млрд активных, 108 слоёв и сохранённая голова MTP для спекулятивного декодирования. Модель предназначена для генерации текста, диалогов и задач рассуждения; режим enable_thinking позволяет получать рассуждения перед ответом. Автор заявляет, что после правки сохранены рассуждения, связность и фактическая точность, но независимые оценки в карточке не приведены. Весовой набор занимает около 329 ГБ; для запуска полного контекста README рекомендует узел с 4× B200/B300 или 8× H100 и vLLM версии 0.22 или новее. Указан контекст до 262 144 токенов. Лицензия — OpenMDW-1.1, унаследованная от базовой модели.
orca_mini_7b — языковая модель, созданная Панкаджем Матуром на основе OpenLLaMA-7B. Модель дообучена на наборах инструкций WizardLM, Alpaca и Dolly-V2 с применением подходов к построению данных из исследовательской работы Orca; для генерации обучающих ответов использовался ChatGPT на базе gpt-3.5-turbo-0301. В метаданных указаны архитектура LLaMA, 6,6 млрд параметров и контекст до 2048 токенов. Модель предназначена для генерации текста по инструкциям и диалоговых запросов на английском языке. Обучение на объяснительных примерах ориентировано на выполнение разнообразных инструкций и рассуждения. Она принимает текст и выдаёт текст; опубликованные веса представлены в форматах PyTorch и Safetensors. Модель выпущена по лицензии CC BY-NC-SA 4.0, которая ограничивает коммерческое использование и требует соблюдения условий атрибуции и распространения производных материалов. Контекст ограничен 2048 токенами; результаты приведённых в карточке оценок Open LLM Leaderboard не гарантируют точность в конкретных задачах.
Это набор GGUF-квантизованных версий текстовой генеративной модели OwenArli/Meta-Llama-3-8B-Instruct-Dolfin-v0.1. Квантизацию выполнила организация featherless-ai-quants. Модель предназначена для генерации текста и может использоваться в сценариях, где требуется запуск инструкционной языковой модели в формате GGUF. В основе лежит Meta-Llama-3-8B-Instruct-Dolfin-v0.1; заявленный размер исходной модели — 8 миллиардов параметров. README не содержит сведений о точной архитектуре, поддерживаемых языках, размере контекста, обучающих данных и результатах тестирования. Доступны варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 3 до 8,1 ГБ, что позволяет выбирать компромисс между требованиями к памяти и сохранением качества. Сильной стороной набора является широкий выбор квантизаций для локального или иного совместимого запуска GGUF-моделей. Ограничения, связанные с конкретной потерей качества, производительностью и совместимостью вариантов, в README не описаны. Лицензия и условия использования также не указаны; их следует уточнить по базовой модели и репозиторию.