I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельDolphinHermesPro-ModelStock — языковая модель для генерации текста, созданная с помощью LazyMergekit путём слияния Dolphin 2.8 Experiment26 7B, Hermes 2 Pro Mistral 7B и Mistral 7B v0.1 методом model_stock. Это плотная причинная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; репозиторий содержит веса Safetensors. Модель подходит для диалогов, ответов на вопросы и генерации текста в приложениях на основе LLM. Данные не уточняют поддерживаемые языки и специальные возможности. Лицензия — Apache-2.0.
Experiment28Meliodas-7B — автоматически объединённая модель, созданная Maxime Labonne из yam-peleg/Experiment28-7B и AurelPx/Meliodas-7b-dare с помощью mergekit. Это плотная авторегрессионная языковая модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста; заявленная длина контекста составляет 32 768 токенов. Слияние выполнено методом SLERP с разными коэффициентами для слоёв self-attention и MLP. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка содержит пример загрузки через Transformers, но не описывает специальные предметные области или гарантии качества; результаты зависят от запроса и сценария использования.
Experiment28T3q_NeuralsirkrishnaExperiment26 — слитая языковая модель семейства Mistral, созданная путём объединения automerger/Experiment28T3q-7B и automerger/NeuralsirkrishnaExperiment26-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и сохранена в формате safetensors. Модель предназначена для генерации текста и принимает текстовые запросы, формируя текстовые ответы. Размер контекстного окна составляет 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0.
djuna/Gemma-2-gemmama-9b — объединённая диалоговая языковая модель на архитектуре Gemma 2, созданная методом DARE TIES с помощью mergekit. В объединение вошли IlyaGusev/gemma-2-9b-it-abliterated, crestf411/gemstone-9b, BAAI/Gemma2-9B-IT-Simpo-Infinity-Preference и lemon07r/Gemma-2-Ataraxy-9B; базой указана IlyaGusev/gemma-2-9b-it-abliterated. Модель содержит 9 млрд параметров, работает через Transformers и принимает текст для генерации текста в диалоге. Контекст — до 8192 токенов. Карточка приводит результаты оценки на Open LLM Leaderboard, в том числе IFEval и BBH. Языки модели в доступных данных не обозначены, поэтому их нельзя надёжно перечислить. Модель подходит для диалоговой генерации и выполнения инструкций. Известные ограничения: результатов тестирования недостаточно, чтобы судить о качестве во всех задачах и языках; объединение включает abliteration-модель, поэтому ответы могут быть менее ограничены. Лицензия в доступных данных не указана.
TheStageAI/gemma-4-E2B-it-GGUF — набор квантизированных GGUF-чекпойнтов модели Google Gemma 4 E2B IT, подготовленных TheStageAI для запуска через llama.cpp. Модель предназначена для генерации текста и локального инференса на устройствах с ограниченным объёмом памяти. Архитектурные детали, число параметров, поддерживаемые языки и размер контекстного окна в README не указаны. Доступны четыре варианта с разным компромиссом между размером и точностью: XS — 1,73 ГБ, S — 2,40 ГБ, M — 2,68 ГБ и L — 4,97 ГБ. Рекомендуется вариант S: по заявленным результатам он сопоставим с эталонной версией BF16 на instruction-strict IFEval, набрав 77,26% против 76,89%, а также получил 60,70% на MMLU-Pro. Варианты S, M и L предпочтительнее для развёрнутого рассуждения, тогда как XS ориентирован на минимальный объём памяти и заметно уступает по MMLU-Pro. Чекпойнты созданы с использованием производственного post-training quantization-пайплайна с учётом Fisher information, распространения ошибок квантования между слоями, оптимизации распределения битового бюджета и дистилляции распределения следующего токена. Сильной стороной является выбор нескольких уровней точности для локального запуска при сохранении близкого к BF16 качества у рекомендуемого варианта S. Ограничения включают зависимость характеристик от выбранного уровня квантования и отсутствие в README данных о скорости, требованиях к оборудованию, мультимодальности и языковом покрытии. Модель распространяется по лицензии Apache-2.0.
lewtun/gemma-7b-sft-full-openhermes-v0 — текстовая языковая модель, дообученная на базе google/gemma-7b на наборе диалоговых данных HuggingFaceH4/OpenHermes-2.5. Это плотная авторегрессионная архитектура GemmaForCausalLM примерно на 8,2 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие; заявленная длина контекста — 8192 токена. Модель подходит для ответов на вопросы, ведения диалога и других задач генерации текста. Данные не уточняют поддерживаемые языки и специальные области применения. Репозиторий содержит веса в формате safetensors; лицензия указана как other, поэтому условия использования следует сверить с лицензией базовой модели и карточкой репозитория.
Gemma-7B-slerp — текстовая языковая модель, созданная Arcee AI слиянием Google Gemma 7B и Gemma 7B Instruct методом SLERP с помощью mergekit. Она предназначена для генерации текста, диалога и ответов на вопросы; объединение базовой и инструктивной версий нацелено на сочетание их свойств. Модель построена на плотной архитектуре GemmaForCausalLM, содержит 8,2 млрд параметров и поддерживает контекст до 8192 токенов. Модель принимает текст и выдаёт текст. В карточке приведены результаты оценки на наборах AGIEval, GPT4All, TruthfulQA и Bigbench. Репозиторий содержит веса Safetensors; лицензия — Apache-2.0. Показатели из карточки не гарантируют качество на конкретных задачах, поэтому перед применением модель стоит оценить на своих данных.
gemma-7b-zephyr-alpaca-it-ties — объединённая языковая модель на архитектуре Gemma, собранная автором репозитория с помощью mergekit из google/gemma-7b-it, HuggingFaceH4/zephyr-7b-gemma-v0.1 и mlabonne/Gemmalpaca-7B методом dare_ties. Модель содержит 8,2 млрд параметров и рассчитана на генерацию текста, в том числе диалоговые ответы и выполнение инструкций. Модель принимает текст и генерирует текст. Веса представлены в формате safetensors; в конфигурации слияния указан dtype float16. Контекст составляет до 8192 токенов. Метаданные указывают лицензию Apache-2.0. Базовая Gemma 7B IT описана как англоязычная, поэтому английский язык можно считать основным; сведения о дополнительных языках для этого объединения не приведены. Качество слияния и сравнительные результаты в карточке не описаны.
Geneva 12B GammaCorpus v2-100k — плотная авторегрессионная языковая модель на архитектуре Mistral, разработанная rubenroy и дообученная на Mistral Nemo Instruct 2407 с использованием набора GammaCorpus v2-100k. Она предназначена для диалоговой генерации текста и следования инструкциям; метаданные также указывают интерфейс вызова инструментов. Модель содержит 12,1 млрд параметров и поддерживает контекст до 1 024 000 токенов. Карточка описывает GammaCorpus как набор структурированных и отфильтрованных многоходовых диалогов. Модель ориентирована на несколько языков, включая английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский. Весовые файлы доступны в формате Safetensors, библиотека для работы — Transformers. Лицензия — Apache-2.0. Автор заявляет целью превосходство над моделями сопоставимого размера, однако сравнительные результаты в карточке не приведены. Среди указанных ограничений — возможность генерации предвзятых ответов; качество вызова инструментов отдельно не охарактеризовано.
Карточка модели SillyTilly/google-gemma-2-9b на Hugging Face совпадает с карточкой google/gemma-2-9b, поэтому описание составлено по ней. Gemma 2 9B — текстовая авторегрессионная модель семейства Gemma, разработанная Google. Это базовая предварительно обученная версия с открытыми весами; README также описывает семейство в целом, включая варианты, дообученные для следования инструкциям. Модель предназначена для генерации текста, диалогов, ответов на вопросы, суммаризации и рассуждений, а её сравнительно компактный размер позволяет запускать её на персональных компьютерах и в собственной облачной инфраструктуре. Модель принимает текст и генерирует текст. В карточке семейство указано как англоязычное; конкретная длина контекста и число параметров не приведены в предоставленных данных. Модель может выдавать неточные или устаревшие сведения, испытывать трудности со сложным контекстом, нюансами языка и здравым смыслом, а также воспроизводить предвзятости обучающих данных. Лицензия — Gemma, с условиями и ограничениями, заданными политиками Google для использования моделей Gemma.
mlx-community/granite-3.3-2b-instruct-fp16 — конверсия модели IBM Granite 3.3 2B Instruct в формат MLX для запуска на системах Apple Silicon. Это плотная авторегрессионная языковая модель с 2,5 млрд параметров и контекстом до 131 072 токенов. Она предназначена для диалога, следования инструкциям, генерации текста и вызова инструментов через соответствующий интерфейс. Модель подходит для чат-ассистентов, ответов на вопросы и работы с длинными текстовыми запросами. Репозиторий опубликован mlx-community; исходная модель — ibm-granite/granite-3.3-2b-instruct. Лицензия — Apache-2.0. README указывает на конверсию с помощью mlx-lm 0.22.5; метаданные классифицируют связь с исходной моделью как finetune.
GreenNode-mini-7B-multilingual-v1olet-Mistral-7B-Instruct-v0.1 — чат-модель, созданная слиянием Mistral AI и GreenNode. Она предназначена для генерации ответов на инструкции и диалоговые запросы. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров; в метаданных указан контекст длиной до 32 768 токенов. Слияние выполнено методом SLERP с настройками, различающимися для слоёв self-attention и MLP. Карточка заявляет многоязычную направленность, однако метаданные перечисляют только английский язык. Модель распространяется в формате safetensors по лицензии Apache-2.0.
Это GGUF-квантизация модели grimjim/Llama-3-Instruct-8B-SimPO-SPPO-Iter3-merge, подготовленная featherless-ai-quants. Модель относится к семейству Llama 3 Instruct, предназначена для генерации текста и использования в диалоговых и других текстовых сценариях. Из README следует, что базовая модель имеет размер 8B параметров, однако сведения об архитектуре, языках, размере контекста и исходном разработчике не указаны. Репозиторий предоставляет несколько вариантов квантизации GGUF: от Q2_K и Q3_K до Q8_0, а также IQ4_XS. Они различаются размером файлов — примерно от 3 до 8 ГБ, что позволяет выбирать компромисс между требованиями к памяти и сохранением качества. Конкретные показатели производительности и качества в README не приведены, поэтому сильные стороны модели можно оценить только как практическую доступность различных уровней квантизации; возможное снижение качества при более агрессивной квантизации остается ограничением. Лицензия и условия использования в README не указаны. Сведения о поддерживаемых модальностях ограничены текстовой генерацией; данные о работе с изображениями, аудио или другими типами входов отсутствуют.
Grok 4.20 Multi-Agent — вариант модели Grok 4.20 от SpaceXAI для совместных сценариев с несколькими агентами. Несколько агентов работают параллельно, проводят углублённое исследование, координируют использование инструментов и объединяют полученные сведения. Данных о размере, архитектуре, модальностях, языках, длине контекста и лицензии в предоставленных источниках нет.
Hathor_Gamma-L3-8B-0.6-GGUF — квантизированная версия языковой модели Hathor_Gamma-L3-8B-0.6, разработанной Nitral-AI. Файлы в формате GGUF подготовлены пользователем bartowski с помощью llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалогового взаимодействия; в README указан английский язык и шаблон запросов в формате, совместимом с Llama 3. Модель содержит около 8 миллиардов параметров и доступна в нескольких вариантах квантования от Q8 до Q2 и IQ2/IQ3/IQ4. Размер файлов составляет примерно от 2,75 до 9,52 ГБ. Старшие варианты квантования обеспечивают очень высокое качество при повышенных требованиях к памяти, тогда как младшие позволяют запускать модель на устройствах с ограниченным объёмом RAM, но заметно снижают качество. Некоторые варианты используют f16 для весов эмбеддингов и выходного слоя и отмечены как экспериментальные. Эта сборка удобна для локального запуска через llama.cpp и совместимые инструменты. README не содержит сведений о длине контекста, мультимодальности, данных обучения, результатах тестирования или точных архитектурных особенностях. Лицензия указана как other, без дополнительных условий в представленном описании, поэтому перед использованием следует проверить лицензию исходной модели Nitral-AI.
HelpingAI_Dhanishtha-2.0-preview-0825-GGUF — это GGUF-квантизированная версия языковой модели Dhanishtha-2.0-preview-0825, разработанной HelpingAI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты на его основе. В README указан специальный chat-шаблон с ролями system, user и assistant. Доступны варианты от исходных весов BF16 размером 29,54 ГБ до различных конфигураций Q8, Q6, Q5, Q4, Q3 и IQ-квантизации размером примерно от 6,88 ГБ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, а компактные варианты подходят для систем с ограниченной оперативной памятью; для большинства сценариев автор рекомендует Q4_K_M, Q5- и Q6-варианты. Архитектура, число параметров, поддерживаемые языки, размер контекста, мультимодальность, конкретные прикладные специализации и лицензия в представленном README не указаны, поэтому эти характеристики требуют проверки в карточке исходной модели.
InternLM2-1.8B — базовая плотная авторегрессионная языковая модель второго поколения семейства InternLM, разработанная командой InternLM. Она содержит около 1,7 млрд параметров и предназначена для генерации текста и последующей адаптации под прикладные задачи. В README также описаны отдельные варианты Chat и Chat-SFT, однако этот репозиторий содержит базовую модель. Модель подходит для продолжения текста, а также для экспериментов с рассуждениями, математикой, кодом и обработкой длинных текстов. Метаданные указывают контекст до 32 768 токенов; в карточке семейства InternLM2 заявлена работа с длинными входами до 200 000 символов. Эти сведения относятся к разным формулировкам длины контекста и не гарантируют одинакового качества на любом длинном тексте. Модель принимает и генерирует текст; в карточке приведены оценки на MMLU, AGIEval и BBH. Лицензия репозитория указана как other: код распространяется по Apache-2.0, веса открыты для академических исследований, а для коммерческого использования требуется запросить бесплатное разрешение. Возможны предвзятые или иные нежелательные ответы; характеристики чата и следования инструкциям, отмеченные в README, относятся прежде всего к отдельным Chat-вариантам.
Модель cuteElf/kanana-1.5-8b-instruct-2505-Persona-Merged — дообученная версия Kanana 1.5 от cuteElf, основанная на kakaocorp/kanana-1.5-8b-instruct-2505. Это плотная языковая модель архитектуры Llama с 7,5 млрд параметров, предназначенная для диалога и генерации текста. Она принимает текст и может работать с интерфейсом вызова инструментов; максимальный контекст составляет 32 768 токенов. Модель подходит для чат-ботов и генерации ответов на текстовые запросы. В README указано, что обучение проводилось с Unsloth и библиотекой TRL; конкретные изменения Persona-Merged и их влияние на поведение модели не описаны. Модель распространяется по лицензии Apache-2.0.
LFM2.5-1.2B-Thinking-MLX-bf16 — экспорт модели LFM2.5-1.2B-Thinking в формате MLX от Liquid AI для локального запуска на устройствах Apple Silicon. Это плотная авторегрессионная языковая модель семейства LFM2, предназначенная для диалогов и генерации ответов с рассуждением: перед итоговым ответом она может формировать цепочку рассуждений. В README заявлены 1,2 млрд параметров и точность bfloat16; каталог указывает 1,5 млрд параметров. Контекст — до 128 000 токенов. Модель поддерживает вызов функций и рассчитана на многоязычные сценарии. В метаданных указаны английский, японский, корейский, французский, испанский, немецкий, итальянский, португальский, арабский и китайский языки. Для запуска описан стек mlx-lm и формат диалога ChatML. Лицензия обозначена как other, поэтому условия использования следует уточнить в карточке модели и у правообладателя. Как компактная модель, она может уступать более крупным системам в сложных задачах; качество и надёжность рассуждений зависят от запроса и сценария.
Nichonauta/LFM2.5-1.2B-Thinking-ToMoE-INT8 — 8-битная квантизованная версия экспериментальной MoE-модели рассуждений Nichonauta/LFM2.5-1.2B-Thinking-ToMoE, основанной на LiquidAI/LFM2.5-1.2B-Thinking. Репозиторий содержит реальные прореженные веса MoE в формате safetensors, а не плотный эквивалент: линейные слои MLP, внимания и свёрток используют весовую квантизацию INT8, тогда как маршрутизаторы, эмбеддинги и нормализации хранятся в fp32. Архитектура LFM2 MoE, класс Lfm2MoEForCausalLM; размер — 1,5 млрд параметров, контекст — до 128 000 токенов. Модель предназначена для генерации текста и диалогового использования, включая задачи рассуждения. В README сообщается, что показатели perplexity после квантизации INT8 близки к fp32-версии, а размер файла весов составляет около 1,38 ГБ. Для загрузки используется Transformers с пользовательским кодом модели и параметром trust_remote_code=True. Карточка указывает лицензию other, поэтому перед использованием следует проверить условия в файле LICENSE.
RemySkye/LFM2.5-8B-A1B-i1-GGUF — набор квантизированных версий языковой модели LiquidAI/LFM2.5-8B-A1B в формате GGUF. Модель предназначена для генерации текста и локального запуска с использованием совместимых инструментов, включая llama.cpp, что делает её подходящей для периферийных и ресурсно-ограниченных сценариев. Размер исходной модели — 8B параметров с архитектурой, обозначенной как A1B; конкретные архитектурные характеристики, размер контекста и поддерживаемые модальности в README не указаны. Заявлена поддержка английского, арабского, китайского, французского, немецкого, японского, корейского, испанского и португальского языков. Квантизация выполнена с использованием importance matrix (imatrix); варианты с точностью ниже 4 бит могут приводить к неприемлемому снижению качества. Для работы рекомендуется актуальная версия llama.cpp. Лицензия указана как lfm1.0, при этом её подробные условия в README не приведены. Модель разработана LiquidAI, а данный репозиторий содержит квантизированные сборки, подготовленные RemySkye.
TheBloke/Llama-2-70B-AWQ — это 4-битная AWQ-квантизированная версия языковой модели Llama 2 70B, разработанной Meta и опубликованной сообществом TheBloke. Модель предназначена для генерации текста и поддерживает английский язык. Она создана на основе meta-llama/Llama-2-70b-hf и использует архитектуру семейства Llama с примерно 70 миллиардами параметров. Ключевая особенность модели — квантизация AWQ с групповым размером 128, выполненная на данных wikitext. Доступны шардированные safetensors-файлы, размер модели составляет около 36,61 ГБ, заявленная длина последовательности — 4096 токенов. Модель ориентирована на GPU-инференс и может использоваться через AutoAWQ или vLLM, включая серверные сценарии с параллельной обработкой запросов. К сильным сторонам относятся существенное снижение требований к видеопамяти и возможность запуска 70B-модели примерно на одной GPU с 48 ГБ памяти вместо двух GPU по 80 ГБ. По сравнению с полноразмерной моделью AWQ может упростить развертывание и снизить стоимость инфраструктуры. Ограничением является то, что производительность и совокупная пропускная способность могут быть ниже, чем у неквантизированной версии при использовании vLLM; кроме того, README не приводит подробных результатов оценки качества после квантизации. Модель распространяется по лицензии Llama 2.
Llama-3.1-8B-Instruct-EI1-2ep-sft — дообученная методом supervised fine-tuning (SFT) модель на архитектуре Llama, созданная на основе meta-llama/Llama-3.1-8B-Instruct. В репозитории указано значение loss 0,3970 на наборе оценки, но сведения о датасете и подробные результаты отсутствуют. Модель предназначена для генерации текста и диалогов. Она содержит 7,5 млрд параметров, поддерживает контекст до 131 072 токенов и распространяется в формате safetensors. Метаданные также указывают интерфейс вызова инструментов; языки и специальные области применения для этой версии не описаны. Лицензия — Llama 3.1 Community License (идентификатор llama3.1); использование регулируется её условиями.
notcvnt/Llama-3.1-8B-Instruct-heretic — производная инструктивная версия Meta Llama 3.1, представленная сообществом как «heretic» и «abliterated». По метаданным это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 7,5 млрд параметров, предназначенная для генерации текста и диалогов. Она принимает текст и выдаёт текст; заявленный контекст — до 131 072 токенов. README описывает исходную Llama 3.1 Instruct, а не конкретную версию heretic, поэтому сведения о языках, методе изменения поведения и характеристиках именно этого варианта ограничены. В метаданных указаны языки en, de, fr, it, pt, hi, es и th. Модель подходит для диалогового помощника и генерации текста на поддерживаемых языках. Метки «uncensored» и «abliterated» указывают на изменённый профиль отказов или ограничений, но карточка не раскрывает точную методику и результаты оценки; выходы следует проверять на точность и безопасность. Модель распространяется по лицензии Llama 3.1 Community License (идентификатор лицензии в метаданных — llama3.1); применение регулируется её условиями и Acceptable Use Policy.
Joseph717171/Llama-3.1-SuperNova-8B-Lite_TIES_with_Base — объединённая языковая модель, созданная автором репозитория с помощью mergekit методом TIES на основе arcee-ai/Llama-3.1-SuperNova-Lite и meta-llama/Llama-3.1-8B. Модель относится к семейству Llama, имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров; для загрузки используются файлы safetensors. Заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста и диалоговых сценариев. Автор применил параметры weight и density, чтобы сохранить больше возможностей следования инструкциям при объединении. В карточке приведены результаты Open LLM Leaderboard, включая оценку IFEval 80,96 и средний балл 43,07. Лицензия — Llama 3.1; условия использования определяются соответствующей лицензией Meta. README не сообщает поддерживаемые естественные языки и не описывает отдельные специализированные области применения.
Typhoon T1 3B (Research Preview) — открытая языковая модель рассуждений, разработанная SCB 10X на основе Typhoon 2 3B Instruct. Это плотная авторегрессионная модель семейства Llama с 3,2 млрд параметров, предназначенная для диалога, следования инструкциям и решения задач, где полезно рассуждать перед выдачей ответа. Модель поддерживает контекст до 131 072 токенов и работает с текстом на английском и тайском языках. Модель рассчитана на математические и научные вопросы, задачи общего рассуждения и широкий круг запросов; авторы сообщают об улучшениях на GPQA, MMLU Pro и математических бенчмарках относительно базовой Typhoon 2 3B Instruct. В версии от 1 февраля 2025 года добавлена генерация рассуждений на тайском и улучшено следование инструкциям. Доступен интерфейс вызова инструментов. Лицензия — Llama 3.2 Community License. Это исследовательская предварительная версия; как и другие генеративные модели, она может иногда выдавать небезопасные или ошибочные ответы, а поведение при рассуждениях требует дальнейшей оценки.
QuantFactory/Llama3-8B-Chinese-Chat-GGUF — это квантизированная GGUF-версия модели shenzhi-wang/Llama3-8B-Chinese-Chat, созданная с помощью llama.cpp. Исходная модель дообучена на базе Meta-Llama-3-8B-Instruct с использованием метода ORPO и фреймворка LLaMA-Factory; в README автором указана QuantFactory. Модель предназначена для диалогового применения и генерации текста на китайском и английском языках: она ориентирована на ответы на китайские запросы, написание и редактирование текстов, решение математических задач, программирование и соблюдение базовых ограничений безопасности. По сравнению с исходной Meta-Llama-3-8B-Instruct она должна реже отвечать на китайские вопросы по-английски, меньше смешивать языки и использовать меньше эмодзи, обеспечивая более формальный стиль. Указана длина контекста 8192 токена; архитектура — семейство Llama 3, размер — 8 млрд параметров. Модель работает в текстовой модальности, а формат GGUF предназначен для использования с совместимыми инструментами, включая llama.cpp. К ограничениям относятся возможные ошибки в фактах, рассуждениях, математике и коде, что видно по приведённым примерам, а также отсутствие гарантии полной безопасности или качества ответов. В README не указаны конкретный вариант квантизации, требования к памяти и производительности, поэтому совместимость и скорость необходимо проверять для выбранной конфигурации. Лицензия обозначена как other с названием llama3; применимые условия следует уточнять в файле LICENSE и лицензии исходной модели.
Maziyar Panahi разработал Llama-3-8B-Instruct-v0.10 на основе своей предыдущей инструкционной модели MaziyarPanahi/Llama-3-8B-Instruct-v0.9. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров для генерации текста и диалогового взаимодействия; она поддерживает шаблон запросов ChatML и рассчитана на контекст до 8192 токенов. Модель подходит для ответов на запросы, ведения диалога и генерации текста на английском языке. В карточке приведены результаты оценки на Open LLM Leaderboard, включая IFEval и BBH. Для работы доступны веса Safetensors и библиотека Transformers; автор также указывает на отдельную версию в формате GGUF. Лицензия обозначена как other, поэтому условия использования следует уточнить в репозитории модели.
lumikabra-195B v0.3 — крупная языковая модель на архитектуре Mistral с 194,2 млрд параметров, созданная объединением моделей методом passthrough. В README указана как более крупный вариант lumikabra v0.3; в слияние вошли два диапазона слоёв модели schnapper79_lumikabra-123B_v0.3. Репозиторий содержит веса Safetensors для Transformers, а заявленная длина контекста составляет 131 072 токена. Модель предназначена для генерации текста и диалогового общения. Интерфейс также поддерживает вызов инструментов. В README приведён пример запроса на написание художественной главы, однако он не устанавливает отдельную специализацию модели. Карточка указывает лицензию «other», поэтому конкретные условия использования следует сверить с лицензией в репозитории.
MaziyarPanahi/M7Yamshadowexperiment28_Strangemerges_32Experiment28 — объединённая текстовая модель семейства Mistral, созданная из automerger/M7Yamshadowexperiment28-7B и automerger/Strangemerges_32Experiment28-7B. Она предназначена для генерации текста и диалогов по текстовым запросам. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В репозитории используются веса Safetensors. Модель распространяется по лицензии Apache-2.0.