I.12Рекомендации и персонализация
В разделе собраны самостоятельные задачи, где AI помогает подбирать релевантные варианты и адаптировать опыт под конкретного человека или ситуацию. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
7 627 моделейSehyo/Qwen3.5-122B-A10B-NVFP4 — квантизированная версия модели Qwen/Qwen3.5-122B-A10B, подготовленная Sehyo с использованием схемы квантования NVFP4. Модель относится к семейству Qwen3.5 и имеет MoE-архитектуру; для загрузки и запуска используется библиотека Transformers, а для поддержки NVFP4 рекомендуется nightly-версия vLLM. Модель предназначена для запуска Qwen3.5-122B-A10B в более компактном квантизированном формате, что может быть полезно для инференса больших языковых моделей и сценариев, где важны снижение требований к памяти и эффективное выполнение. Квантование выполнено с помощью VLLM LLM Compressor с поддержкой Qwen3.5 MoE. При калибровке использовано 512 образцов из наборов ultrachat_200k и Nemotron-Post-Training-Dataset-v2, максимальная длина последовательности составляла 4096 токенов, а калибровка охватывала всех экспертов MoE. Ключевые особенности — NVFP4-квантование и наличие весов MTP (multi-token prediction), добавленных для поддержки speculative decoding в vLLM. Ограничения README не описывает: неизвестны точный размер контекста исходной модели, поддерживаемые языки, модальности, показатели качества и требования к оборудованию. Лицензия в предоставленных данных не указана.
OnlyTextLLMs/Qwen3.5-2B-OnlyText — текстовая причинно-следственная языковая модель на базе Qwen/Qwen3.5-2B. Разработчик репозитория удалил из исходной модели компоненты обработки изображений и аудио и мультимодальные специальные токены, сохранив текстовую основу, языковую голову и черновую MTP-голову; дополнительного обучения не проводилось. Модель имеет плотную архитектуру Qwen3_5ForCausalLM, около 1,7 млрд параметров по метаданным и контекст до 262 144 токенов. Модель предназначена для генерации текста и диалогов. Она принимает текст и выдаёт текст; заявленный интерфейс также поддерживает вызов инструментов. Репозиторий использует Transformers и формат safetensors. Лицензия — Apache-2.0. Удалённые аудио- и визуальные компоненты исключают обработку изображений и аудио; сведения о языках в предоставленных данных не приведены.
Qwen3.6-27B-Fable-Agentic — плотная мультимодальная модель на 27 млрд параметров, созданная LemuraLabs дообучением Jackrong/Qwopus3.6-27B-v2. Она предназначена для диалога, пошаговых рассуждений и вызова инструментов в многоходовых агентных сценариях; архитектура поддерживает работу с текстом и изображениями. В карточке приведены результаты сравнительных тестов с базовой моделью: 88,29% на MMLU-Pro, 97,33% на GSM8K и 57,07% на GPQA-Diamond. Модель подходит для ответов на общие вопросы, математических задач и систем, которые передают запросы внешним инструментам. В README для обслуживания через vLLM указан контекст до 16 384 токенов. Модель распространяется по лицензии Apache-2.0. Заявленные характеристики и результаты приведены в карточке модели и не являются независимой оценкой качества.
Qwen3.8-Flash-Next-RadixArk-NVFP4-Hybrid-Sharp — мультимодальная модель для задач text-to-text и image-text-to-text, опубликованная в репозитории travelinlance на основе Qwen3.8-Flash-Next от Qwen и NVFP4-квантизированной сборки RadixArk. Модель предназначена для диалогов, генерации текста и обработки запросов с изображениями при использовании специализированного стека обслуживания. Это примерно 176-миллиардная MoE-модель с маршрутизируемыми экспертами. Основная часть весов хранится в формате NVFP4 W4A4, а около 300 тензоров в слоях внимания и общих экспертах преобразованы в блочный FP8 E4M3. Такой гибридный формат уменьшает объём данных, считываемых при генерации, и, по заявленным измерениям, повышает скорость генерации примерно на 20% без ухудшения контрольных оценок. Встроенный Sharp chat template сокращает объём ответов; в тесте он дал на 18% меньше выходных токенов. Для запуска требуется патченный образ vLLM ghcr.io/lancelind/qwen38-flash-dgx с поддержкой смешанного FP4/FP8-формата и настройками VLLM_FP8_HYBRID=1; стандартные vLLM и SGLang эту сборку загрузить не могут. Модель рассчитана прежде всего на NVIDIA DGX Spark с GB10 и 128 ГБ памяти, где используется таблица размером 44 ГиБ, доступная напрямую с диска. Точные поддерживаемые языки и размер контекстного окна в представленном README не указаны. Лицензия обозначена как qwen-community-1.0; применимые условия следует уточнять в файле LICENSE.
Rombo-LLM-V3.0-Qwen-72b — плотная языковая модель семейства Qwen2 от Rombo-Org, созданная продолжительным дообучением Rombo-LLM-V2.5-Qwen-72b на наборах данных для рассуждений и обычных ответов. Она предназначена для генерации текста в диалогах и задач, где полезны пошаговые рассуждения; автор рекомендует использовать системный промпт, на котором модель обучалась для режима рассуждений, и температуру 0,4. Модель содержит 71,5 млрд параметров, рассчитана на контекст до 32 768 токенов, использует формат Safetensors и поддерживает интерфейс вызова инструментов. Автор заявляет о высокой эффективности, в том числе при 4-битном квантовании, однако в карточке нет опубликованных результатов оценки. Модель лицензирована по Apache-2.0.
SepKeyPro/SuperQwen2-7B-Chat — объединённая разговорная языковая модель на базе семейства Qwen2, созданная с помощью Mergekit. В состав слияния вошли Qwen/Qwen2-7B-Instruct, natong19/Qwen2-7B-Instruct-abliterated и cognitivecomputations/dolphin-2.9.2-qwen2-7b; метод слияния — model_stock, формат весов — bfloat16 в safetensors. Модель содержит 7,1 млрд параметров, имеет плотную архитектуру Qwen2ForCausalLM и контекст до 32 768 токенов. Она предназначена для диалогов и генерации текста. В карточке не описаны поддерживаемые языки и специальные предметные области. Условия лицензии в предоставленных данных не приведены.
UltraHermes-Merge — объединённая диалоговая языковая модель, созданная Cas-Warehouse с помощью mergekit. В основе слияния — mlabonne/NeuralHermes-2.5-Mistral-7B; также объединены argilla/CapybaraHermes-2.5-Mistral-7B, joey00072/ToxicHermes-2.5-Mistral-7B и openaccess-ai-collective/DPOpenHermes-7B-v2. Использован метод TIES. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и имеет контекстное окно до 32 768 токенов. Она предназначена для диалога, ответов на инструкции и генерации текста. Доступна в формате safetensors и использует библиотеку Transformers. В карточке не приведены сведения о лицензии и конкретном перечне поддерживаемых языков. Как и другие генеративные языковые модели, она может выдавать неточные или нежелательные ответы; пригодность результатов следует проверять для целевого применения.
Arcee-SuperNova-v1 — текстовая модель Arcee AI для диалогов и выполнения инструкций. В основе лежит Llama-3.1-70B-Instruct; модель объединяет дистиллированную версию Llama-3.1-405B-Instruct, вариант, дообученный на синтетических данных Evol-Kit, и вариант, оптимизированный с помощью Direct Preference Optimization (DPO). В метаданных указаны архитектура LlamaForCausalLM, 69,5 млрд параметров и контекст до 131 072 токенов. Модель предназначена для ответов на разнообразные запросы, следования инструкциям, математических задач и использования как основы для дальнейшего обучения с подкреплением на основе человеческой обратной связи. Поддерживает генерацию текста и диалоговый сценарий; в метаданных также заявлен интерфейс вызова инструментов. Для использования указана лицензия Llama 3. Карточка описывает объединение нескольких подходов к обучению, но не приводит количественных оценок качества или результатов сравнительных тестов.
mobiuslabsgmbh/DeepSeek-R1-ReDistill-Llama3-8B-v1.1 — повторно дистиллированная версия DeepSeek-R1-Distill-Llama3-8B, разработанная Mobius Labs. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Она предназначена для генерации текста и диалоговых сценариев; заявленная длина контекста — 131 072 токена. В сравнении с исходной DeepSeek-R1-Distill-Llama3-8B карточка приводит улучшенные результаты на ARC, MMLU, GPQA, MMLU PRO и MUSR, при этом на HellaSwag результат немного ниже. Модель подходит для задач рассуждения, ответов на вопросы и других сценариев генерации текста. В репозитории доступны веса safetensors. Лицензия — MIT. В README также упоминается возможность ускорения инференса с HQQ; приведённые в карточке сравнительные результаты не заменяют независимую оценку на целевых данных.
jaspionjader/ek-6 — объединённая языковая модель автора jaspionjader, созданная методом Model Stock с помощью mergekit на основе jaspionjader/ek-1 и с включением jaspionjader/ek-3 и jaspionjader/ek-5. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров; она предназначена для генерации текста и диалогового общения. Модель принимает текст и выдаёт текст, поддерживает контекст до 131 072 токенов и распространяется в формате safetensors для библиотеки Transformers. В карточке указана лицензия; конкретный тип лицензии здесь не приведён.
ExpertRamonda-7Bx2_MoE — диалоговая языковая модель на архитектуре Mixtral MoE, созданная mayacinka с помощью LazyMergekit путём объединения mlabonne/AlphaMonarch-7B и bardsai/jaskier-7b-dpo-v5.6. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста в диалоге; заявленная длина контекста — 32 768 токенов. Модель подходит для общения, выполнения инструкций, ответов на вопросы и рассуждений в текстовом формате. В README приведены результаты Open LLM Leaderboard и MMLU, но они не гарантируют качество на конкретных пользовательских задачах. Файлы представлены в формате safetensors. Лицензия — Apache-2.0.
franken-Beagle-11B — языковая модель для генерации текста и диалогов, созданная Vicgalle с помощью mergekit. Она получена слиянием методом passthrough двух диапазонов слоёв модели mlabonne/NeuralBeagle14-7B; архитектура — плотная MistralForCausalLM, размер — 10,6 млрд параметров, контекст — до 32 768 токенов. Модель принимает текст и выдаёт текст; карточка отмечает поддержку диалогового режима. Модель подходит для диалогов, ответов на инструкции, рассуждений и творческой генерации текста. Базовая NeuralBeagle14-7B дообучена на предпочтениях и предназначена для диалогов, следования инструкциям, рассуждений и творческого письма. Репозиторий распространяет веса в формате safetensors; лицензия — Apache 2.0.
OnlyTextLLMs выпустила текстовую производную Gemma 4 E4B Instruct, сохранив текстовую основу и голову языкового моделирования, а также удалив компоненты обработки изображений и аудио и мультимодальные специальные токены. Модель использует архитектуру Gemma4ForCausalLM с плотной структурой, содержит 4,7 млрд параметров по метаданным и рассчитана на контекст до 131 072 токенов. README приводит другую оценку размера — 7,52 млрд параметров, поэтому точный размер по источникам расходится. Модель предназначена для генерации текста и диалоговых сценариев через Transformers. Она наследует базу google/gemma-4-E4B-it; заявлены формат safetensors и лицензия Apache-2.0. README указывает, что модель не дообучали: из базового чекпойнта удалили мультимодальные компоненты, поэтому она работает только с текстом и не принимает изображения или аудио.
GPT-5.2 — модель семейства GPT-5, представленная как новейшая флагманская модель OpenAI. В карточке отмечены адаптивное распределение вычислений и улучшения в агентных сценариях и работе с длинным контекстом относительно GPT-5.1. Модель предназначена для агентных задач и работы с длинным контекстом. Метаданные каталога относят её к задаче image-text-to-text, однако README не описывает поддерживаемые типы входных данных, архитектуру, размер, языки или конкретные сценарии использования. Сведения о лицензии также отсутствуют, поэтому условия использования по доступным данным определить нельзя.
OpenVINO/gpt-oss-20b-int4-ov — квантизированная версия языковой модели gpt-oss-20b, разработанной OpenAI. Модель преобразована в формат OpenVINO IR, а её веса сжаты до INT4 с помощью NNCF в режиме INT4_ASYM без группировки весов. Это модель для генерации текста, доступная для локального запуска через OpenVINO, Optimum Intel и OpenVINO GenAI. Модель предназначена для задач генерации текста, диалоговых приложений, построения RAG-систем и интеграции в агентские сценарии с function calling. Она совместима с OpenVINO версии 2026.0.0 и выше и Optimum Intel версии 1.27.0 и выше; в README также приведены варианты запуска на CPU и GPU через OpenVINO Model Server. Размер исходной модели составляет 20 млрд параметров согласно её идентификатору и названию базовой модели, однако сведения о контекстном окне, поддерживаемых языках и точной архитектуре не указаны. Ключевое преимущество модели — уменьшенный объём весов благодаря INT4-квантизации, что может упростить локальное развертывание и снизить требования к памяти. При этом квантизация способна влиять на качество генерации, но конкретные результаты оценки в карточке не приведены. Ограничения следует уточнять в карточке исходной модели gpt-oss-20b. Модель распространяется по лицензии Apache License 2.0.
Granite-3.0-1B-A400M-Base — базовая языковая модель IBM Granite Team для генерации текста и решения задач преобразования текста. Это декодерный трансформер с разреженной архитектурой Mixture of Experts (MoE), обученный с нуля в два этапа на разнообразных данных; в метаданных указано 163,6 млн параметров, контекст — 4096 токенов. Модель поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель предназначена для суммаризации, классификации и извлечения информации из текста, ответов на вопросы и генерации продолжений. Она также может служить базой для дообучения под специализированные сценарии. Выпущена под лицензией Apache 2.0. Это базовая модель без safety alignment: возможны предвзятые или недостоверные ответы, а небольшие модели могут воспроизводить фрагменты обучающих данных.
Granite-3.0-8B-Base — базовая языковая модель IBM Granite Team для генерации текста и преобразования текста в текст. Это плотный авторегрессионный трансформер с архитектурой decoder-only, реализованный как GraniteForCausalLM; модель содержит 8,2 млрд параметров и распространяется в формате safetensors для библиотеки Transformers. Она обучена с нуля в два этапа на 10 трлн токенов разнородных данных и затем на 2 трлн токенов отобранных данных. Контекст модели составляет 4096 токенов. Модель предназначена для суммаризации, классификации и извлечения информации, ответов на вопросы, а также как базовая точка для дообучения под специализированные сценарии. В архитектуре используются GQA, RoPE, SwiGLU, RMSNorm и общие входные и выходные эмбеддинги. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Лицензия — Apache 2.0. Модель не прошла выравнивание по требованиям безопасности и может выдавать проблемные ответы, предвзятый или недостоверный контент; возможны галлюцинации и воспроизведение фрагментов обучающих данных. Результаты требуют проверки, особенно в сценариях с высокими последствиями.
Jebadiah/hermes-Poppy-stone-l3-8b — объединённая языковая модель семейства Llama 3, созданная с помощью mergekit методом DARE TIES. В слиянии использованы ChaoticNeutrals/Poppy_Porpoise-v0.7-L3-8B и NousResearch/Hermes-2-Pro-Llama-3-8B; основной моделью указана Poppy_Porpoise-v0.7-L3-8B. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и распространяется в формате safetensors.
Etherll выпустила слитую диалоговую модель на архитектуре Llama 3.1 с плотной структурой и 7,5 млрд параметров. Она создана методом TIES с помощью mergekit на основе Etherll/Herplete-LLM-Llama-3.1-8b и rombodawg/Meta-Llama-3.1-8B-reuploaded. Модель предназначена для генерации текста по инструкциям, диалогов и сценариев с вызовом инструментов. Репозиторий использует Transformers и формат safetensors; заявленная длина контекста составляет 131 072 токена. Карточка не сообщает о специализированной предметной области или отдельной языковой специализации. Условия лицензии в предоставленных данных не указаны.
Lamarck-14B-v0.7 — языковая модель на 14 млрд параметров, собранная sometimesanotion как объединение нескольких моделей семейства Qwen2. Для создания использовалась собственная цепочка слияний весов, включая SLERP и TIES, и объединение ветвей, построенных с помощью LoRA и других методов слияния. В числе предшественников — DeepSeek-R1-Distill-Qwen-14B, Virtuoso-Small и предыдущие версии Lamarck. Модель предназначена для диалогов и генерации текста общего назначения с упором на многошаговые рассуждения, связную прозу, перевод и работу на нескольких языках. Контекст — до 131 072 токенов; в карточке отмечена поддержка английского языка, а автор также заявляет о многоязычных возможностях. Модель доступна в формате safetensors и распространяется по лицензии Apache-2.0. Заявления о качестве основаны на оценках автора и субъективном описании возможностей; независимые результаты бенчмарков в карточке не приведены. Для унаследованных компонентов и слияния качество может различаться в зависимости от задачи.
Карточка модели aoiandroid/LFM2.5-2.6B на Hugging Face совпадает с карточкой LiquidAI/LFM2.5-2.6B, поэтому описание составлено по ней. LFM2.5-2.6B — компактная текстовая модель Liquid AI из семейства гибридных LFM2.5, настроенная для локального запуска на устройствах и агентных сценариев. Это дообученная версия LFM2.5-2.6B-Base с 2,6 млрд параметров; архитектура LFM2 использует 30 слоёв, включая блоки свёртки с двойным гейтингом и слои GQA. Модель принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и работает с 17 языками, включая русский. Модель предназначена для вызова инструментов, следования инструкциям, многошаговых агентных задач, извлечения данных, RAG и работы с длинным контекстом. В карточке заявлены скорость до 220 токенов в секунду на Apple M5 Max и до 113 токенов в секунду на процессоре AMD Ryzen при использовании менее 2,5 ГБ памяти; фактические показатели зависят от оборудования и конфигурации. Liquid AI не рекомендует её для агентного программирования и задач, требующих обширных знаний. Лицензия указана как other; её условия следует уточнить в репозитории модели.
Ling-2.6-flash-MXFP4 — квантизированная версия языковой модели Ling-2.6-flash, подготовленная Jinho Jang из OsaurusAI на базе модели InclusionAI. Это гибридная MoE-модель с архитектурой Bailing-V2.5: в ней 103 млрд параметров, из которых активно около 8 млрд, 256 экспертов с выбором восьми на токен, 32 слоя с сочетанием MLA и Lightning Linear Attention, а также голова Multi-Token Prediction. Контекст составляет 131 072 токена. Модель предназначена для генерации текста, диалога, рассуждений и вызова инструментов; её можно применять в многошаговых агентных сценариях. Все основные веса представлены в 4-битном формате MXFP4 с группами по 32 значения, а нормализации, роутеры, смещения экспертов и параметры наклона сохранены в FP16 или FP32. Файлы общим размером около 63 ГБ рассчитаны на запуск через MLX на компьютерах Apple Silicon с достаточным объёмом памяти. Квантизация уменьшает объём модели относительно исходной версии в BF16 и позволяет использовать штатную загрузку MLX без отдельной среды TurboQuant. При этом заявленный сценарий запуска требует мощного Apple Silicon и не гарантирует совместимость с другими платформами. Модель распространяется по лицензии MIT.
OpenAssistant/llama2-13b-orca-8k-3319 — языковая модель OpenAssistant, созданная дообучением Meta Llama 2 13B. Она предназначена для генерации текста и диалоговых ответов по инструкциям. Модель содержит 12,9 млрд параметров и использует архитектуру Llama с контекстом до 8192 токенов благодаря линейному масштабированию RoPE. Обучение включало длинные диалоги на основе Orca-Chat/Dolphin, а также данные RedPajama и FanFics. Это помогает модели отвечать на запросы в многоходовых беседах и работать с более длинным контекстом. В карточке указана лицензия Llama 2 Community License Agreement. Для загрузки через Transformers требуется версия 4.31.0 или новее.
Llama-3.1-Storm-8B-GGUF — это набор GGUF-квантизаций языковой модели Llama-3.1-Storm-8B, подготовленный bartowski на базе модели akjindal53244. Модель предназначена для генерации текста, диалоговых сценариев, следования инструкциям, рассуждений и function calling. Она поддерживает текстовый ввод и вывод, а заявленные языки включают английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Архитектура и размер исходной модели обозначены как Llama-3.1 и 8B; размер контекста в README не указан. Модель распространяется в формате GGUF для запуска через llama.cpp и совместимых приложений, включая LM Studio. Доступны варианты от f32 и Q8_0 до более компактных Q2_K и IQ2_M, поэтому можно выбирать между качеством генерации и требованиями к памяти. Квантизации созданы с использованием imatrix; отдельные варианты применяют Q8_0 для embedding- и output-весов, что заявлено как способ сохранить более высокое качество. Сильными сторонами являются широкий выбор размеров файлов, локальный запуск и поддержка задач instruction following, reasoning и function calling. Ограничения зависят от выбранной квантизации: варианты с низкой битностью имеют заметно более низкое качество, а некоторые прямо не рекомендуются. Лицензия указана как llama3.1; дополнительные условия использования в README не раскрыты.
lumikabrabehemoth195b — объединённая языковая модель, созданная schnapper79 с помощью mergekit из двух предварительно обученных моделей: schnapper79/lumikabra-123B_v0.3 и TheDrummer/Behemoth-123B-v1. Использован метод passthrough: в итоговую модель последовательно включены диапазоны слоёв обеих моделей. Модель построена на плотной архитектуре MistralForCausalLM и содержит 194,2 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия; контекстное окно составляет 131 072 токена. Метаданные также отмечают интерфейс вызова инструментов. Карточка не описывает отдельные специализированные области применения или поддерживаемые языки. В репозитории представлены веса Safetensors, а в конфигурации слияния указан тип данных bfloat16. Лицензия в предоставленных сведениях не указана.
Megrez2-3x7B-A3B-Preview — предварительная версия языковой модели от Infinigence на архитектуре Mixture-of-Experts (MoE). Модель обучена на 5 трлн токенов; в карточке указано 3×7 млрд параметров, из которых активируются 3 млрд. Метаданные каталога указывают 2,7 млрд параметров. Модель принимает текстовые запросы и генерирует текст, в том числе в диалоговом режиме; заявлена длина контекста 163 840 токенов. Модель предназначена для генерации ответов и диалогов, а также для задач рассуждения и работы с агентами; разработчик описывает её как компактную модель с MoE, сочетающую сильные стороны экспертной и плотной архитектур. Доступны веса в формате safetensors, поддерживаются Transformers, vLLM и SGLang. Для инференса рекомендуется Transformers версии 4.52.4 или новее. Модель распространяется по лицензии Apache-2.0. Это preview-релиз: разработчик сообщает, что будущая официальная версия будет обучена на большем объёме данных и получит улучшенные способности к рассуждению и агентной работе. README не приводит численные результаты бенчмарков, поэтому качество для конкретных сценариев следует оценивать отдельно.
imi2/Meta-Llama-3-120B-Instruct-merged — объединённая языковая модель на архитектуре Llama, созданная с помощью mergekit методом passthrough на основе NousResearch/Meta-Llama-3-70B-Instruct. Модель содержит 120,8 млрд параметров, использует формат safetensors и доступна для работы через Transformers. Модель предназначена для генерации текста и диалогового взаимодействия. Контекст составляет 8192 токена. Данные указывают на поддержку текстового ввода и генерации текста; сведения о специальных предметных областях и языковом охвате не приведены. Лицензия в предоставленных источниках не указана.
Карточка модели SillyTilly/Meta-Llama-3.1-70B-Instruct на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3.1-70B-Instruct, поэтому описание составлено по ней. NousResearch публикует инструкционно настроенную модель Meta Llama 3.1 70B Instruct — плотную авторегрессионную языковую модель на архитектуре Transformer с 69,5 млрд параметров. Она принимает и генерирует текст, а версия Instruct предназначена для многоязычного диалога и работы в роли ассистента. Настройка включает дообучение с учителем и обучение с подкреплением на основе отзывов людей; модель поддерживает контекст до 131 072 токенов и использует Grouped-Query Attention для повышения эффективности вывода. Модель подходит для диалоговых приложений, ответов на вопросы и генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Её можно запускать через Transformers; карточка также описывает варианты загрузки в 4- и 8-битном формате для снижения требований к памяти. Русский язык не входит в перечень поддерживаемых языков. Ответственность за безопасную интеграцию, включая подключение внешних инструментов, лежит на разработчике приложения. Модель разработана Meta и распространяется по лицензии Llama 3.1 Community License с условиями, изложенными в лицензии и Acceptable Use Policy. Это статический чекпойнт, обученный на офлайн-данных; качество и безопасность ответов требуют проверки в целевом сценарии.
NoelJacob/Meta-Llama-3-8B-Instruct-Q4_K_M-GGUF — это квантизированная версия инструкционно дообученной языковой модели Meta Llama 3 с приблизительно 8 млрд параметров, подготовленная NoelJacob в формате GGUF для использования с llama.cpp и совместимыми инструментами. Модель предназначена для генерации и обработки текста, включая диалоговые сценарии и выполнение инструкций. В метаданных указан английский язык; другие языки и поддержка дополнительных модальностей не заявлены. Обозначение Q4_K_M указывает на 4-битную квантизацию варианта K_M, которая обычно уменьшает требования к памяти и упрощает локальный запуск по сравнению с полноразмерными весами, но может снижать точность относительно исходной модели. В предоставленных данных не указаны размер файла, максимальная длина контекста, конкретные требования к оборудованию, результаты тестирования или дополнительные ограничения качества. Модель распространяется на условиях Meta Llama 3 Community License. При использовании и распространении необходимо соблюдать условия этой лицензии, включая требования к атрибуции, отображению обозначения «Built with Meta Llama 3», соблюдению Acceptable Use Policy и специальные коммерческие условия для продуктов с более чем 700 млн ежемесячных активных пользователей.
miscii-14b-1225 — диалоговая языковая модель серии miscii, созданная sthenno-com как слияние моделей с помощью mergekit. В основе указаны Qwen/Qwen2.5-14B-Instruct и sthenno-com/miscii-14b-1028. Модель с архитектурой Qwen2 и 14 млрд параметров предназначена для генерации текста и диалогов; заявленный контекст составляет 131 072 токена. Карточка приводит результаты оценок Open LLM Leaderboard: средний балл 40,08 в исходной таблице и 42,35 в таблице, обновлённой 15 февраля 2025 года. Указаны языковые теги для китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского. Модель распространяется по лицензии Apache-2.0. За подробностями об использовании карточка отсылает к miscii-14b-1028.