I.12Рекомендации и персонализация

Sethuiyer выпустил экспериментальную инструктивную донастройку Llama 3.1 8B, предназначенную для генерации текста и диалога. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров, работает с контекстом до 131 072 токенов и распространяется в формате safetensors. Карточка сообщает о результатах на задачах логического и булева рассуждения, следования инструкциям, устранения неоднозначности и причинного анализа, а также об отдельных узкоспециализированных знаниях. Модель может быть полезна для диалогов, анализа длинных документов и многошаговых текстовых задач. Оценки приведены на Open LLM Leaderboard; они не гарантируют качество на других задачах. Лицензия в предоставленных данных не указана.

Kaoeiri/Llam-Romania-3.1d-8B-V1.11 — языковая модель семейства Llama, разработанная Kaoeiri как дообученная версия unsloth/Meta-Llama-3.1-8B-bnb-4bit. Это плотная авторегрессионная модель для генерации текста и диалогового общения. В репозитории указано 7,5 млрд параметров, контекстное окно — до 131 072 токенов; модель построена на PyTorch и обучалась с использованием Unsloth и библиотеки TRL.

Kaballas/m_1 — текстовая генеративная модель, созданная Kaballas путём слияния нескольких предварительно обученных моделей с помощью mergekit и метода Model Stock. В качестве базовой использована Qwen/Qwen2.5-7B-Instruct; в слияние также вошли модели для рассуждений и генерации текста, включая DrNicefellow/Qwen2.5-7B-O1-Journey-1, C10X/CoT-2.5, bunnycore/Qwen2.5-7B-CyberRombos, djuna/Q2.5-Fuppavy-7B, Kaballas/TLetsgo и jeffmeloy/Qwen2.5-7B-nerd-uncensored-v1.7. Модель семейства Qwen2 имеет плотную архитектуру Qwen2ForCausalLM, содержит 7,1 млрд параметров и принимает текстовый контекст длиной до 32 768 токенов. Она предназначена для диалогов и генерации текста, в том числе ответов с рассуждениями. Репозиторий использует формат safetensors и библиотеку Transformers; заявлен интерфейс для вызова инструментов. В метаданных лицензия не приведена. Поскольку это слияние моделей, поведение и ограничения зависят от исходных компонентов; README не содержит оценки качества или подробных ограничений.

MaziyarPanahi/M7T3qm7xp_YamshadowInex12 — слитая модель семейства Mistral на основе automerger/M7T3qm7xp-7B и automerger/YamshadowInex12-7B. Она предназначена для генерации текста и подходит для приложений, которым нужна языковая модель с контекстом до 32 768 токенов. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и распространяется в формате Safetensors. Лицензия — Apache-2.0.

MaziyarPanahi/M7Yamshadowexperiment28_Experiment26Inex12 — объединённая модель на архитектуре Mistral, созданная слиянием automerger/M7Yamshadowexperiment28-7B и automerger/Experiment26Inex12-7B. Она предназначена для генерации текста и диалоговых сценариев, где полезен контекст до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате Safetensors. Модель может использоваться для продолжения текста, ответов на запросы и ведения диалога. Данные не описывают её специализацию по языкам или предметным областям, поэтому её следует рассматривать как модель общего назначения. Лицензия — Apache-2.0.

M7Yamshadowexperiment28_Strangemerges_32Ogno — объединённая модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она создана путём слияния моделей automerger/M7Yamshadowexperiment28-7B и automerger/Strangemerges_32Ogno-7B и предназначена для генерации текста и диалогов по текстовым запросам. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Лицензия — Apache-2.0. Карточка не описывает специализацию по языкам или предметным областям, поэтому модель следует считать общей текстовой моделью.

kzome/manhua-ar-model — дообученная разработчиком kzome модель генерации текста на архитектуре Qwen2.5. Она основана на unsloth/Qwen2.5-7B-Instruct-bnb-4bit и содержит 7,1 млрд параметров; в карточке указаны обучение с Unsloth и библиотекой TRL, а также поддержка диалога и интерфейса вызова инструментов. Модель подходит для генерации текста и диалогового взаимодействия. Контекстное окно составляет до 32 768 токенов, основной указанный язык — английский. Модель распространяется по лицензии Apache-2.0.

Maverick Llama 3 8B — диалоговая языковая модель на архитектуре Llama, созданная feeltheAGI на базе Meta Llama 3 8B и дообученная на наборе feeltheAGI/maverick-sharegpt. Модель содержит около 7,5 млрд параметров, принимает текст и предназначена для генерации ответов в формате чата с шаблоном ChatML; заявленная длина контекста — 8192 токена. Модель подходит для диалогового ассистента, ответов на вопросы, рассуждений и решения задач по математике. В карточке приведены результаты тестов EQ-Bench, WinoGrande, GSM8K и MathQA, но они не гарантируют качество в конкретных сценариях. Репозиторий предоставляет веса в формате Safetensors. Метаданные указывают лицензию Apache 2.0, тогда как README ссылается на Meta Llama 3 Community License Agreement; условия использования следует сверять с лицензией базовой модели.

MeliodasPercival_01_AlloyingotneoyPercival_01 — объединённая модель для генерации текста, созданная слиянием двух моделей Mistral: automerger/MeliodasPercival_01-7B и automerger/AlloyingotneoyPercival_01-7B. Она предназначена для генерации текста и диалогов; размер составляет 7,1 млрд параметров, максимальная длина контекста — 32 768 токенов. Модель использует архитектуру Mistral и распространяется в формате safetensors под лицензией Apache-2.0.

MeliodasPercival_01_ShadowNeuralsirkrishna — объединённая модель для генерации текста на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием automerger/MeliodasPercival_01-7B и automerger/ShadowNeuralsirkrishna-7B и предназначена для генерации текста и диалогов. Модель принимает текст и выдаёт текст. Длина контекста составляет до 32 768 токенов; файлы весов представлены в формате safetensors. Модель опубликована под лицензией Apache-2.0.

MeliodasPercival_01_YamYam — объединённая модель семейства Mistral, созданная на основе automerger/MeliodasPercival_01-7B и automerger/YamYam-7B. Она предназначена для генерации текста и диалогов. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Опубликована в формате safetensors под лицензией Apache-2.0.

ThomasBaruzier/Meta-Llama-3.1-405B-Instruct-GGUF — это версия большой языковой модели Meta-Llama-3.1-405B-Instruct, подготовленная в формате GGUF для задач генерации текста. Базовую модель разработала Meta; карточка размещена пользователем ThomasBaruzier. Модель предназначена для диалогов, следования инструкциям, подготовки и преобразования текстов и других сценариев, где требуется генерация на естественном языке. Модель относится к семейству Llama 3.1 и имеет размер 405 миллиардов параметров. Она работает с текстовой модальностью и предназначена для text-generation. В карточке заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Архитектура и размер контекстного окна для этой конкретной сборки не указаны. Формат GGUF может быть удобен для локального запуска совместимыми средствами, однако модель такого масштаба требует значительных вычислительных ресурсов. Модель может обеспечивать высокое качество следования инструкциям и генерации текста благодаря крупному размеру, но её практическая применимость ограничена требованиями к памяти и производительности оборудования. Лицензия указана как Llama 3.1 Community License. При распространении материалов необходимо соблюдать условия Meta, включая предоставление текста лицензии, указание «Built with Llama», сохранение атрибуции и соблюдение Acceptable Use Policy; для продуктов с более чем 700 миллионами ежемесячных активных пользователей предусмотрены дополнительные лицензионные требования.

Mihaiii/Metis-0.5 — дообученная модель Mistral с 7,1 млрд параметров, созданная на основе migtissera/Tess-XS-v1-3-yarn-128K. Модель предназначена для генерации ответов с упором на рассуждения и понимание текста; автор отмечает, что она хорошо работает с длинными системными инструкциями. Для взаимодействия используется формат с ролями SYSTEM, USER и ASSISTANT. Нативная длина контекста — 32 768 токенов. Модель подходит для анализа текста и решения задач на рассуждение, но автор не рекомендует использовать её для универсального сочинительства, например для написания историй. Она обучена на закрытом датасете. Лицензия — Apache-2.0.

AMD Mixtral-8x7B-Instruct-v0.1-w4a16-llmcompressor — это квантизированная версия языковой модели Mixtral-8x7B-Instruct-v0.1 от Mistral AI, подготовленная AMD для оптимизированного CPU-инференса. Модель реализует архитектуру MixtralForCausalLM, принимает текст и генерирует текст, ориентирована на задачи диалоговой генерации и общего следования инструкциям на английском языке. Модель использует разреженную Mixture-of-Experts-архитектуру Mixtral-8x7B и 4-битное квантизирование весов W4A16 методом GPTQ. Веса хранятся в формате INT4 с симметричным групповым квантизированием и размером группы 128, а активации остаются в BF16. Маршрутизатор MoE и lm_head сохранены в BF16. Объём весов уменьшен примерно с 87,0 до 22,8 GiB, то есть примерно на 74%. Данные о максимальной длине контекста в README не указаны; для калибровки использовалась длина последовательности до 2048 токенов. Основной сценарий использования — инференс на процессорах AMD EPYC под Linux с применением vLLM, ZenDNN и ZenTorch. По приведённой оценке на GSM8K модель сохранила 98,83% результата BF16-базовой версии: 0,6331 против 0,6406. Ограничения включают зависимость от совместимого программного стека и аппаратной платформы, а также возможное снижение качества из-за квантизации. Модель распространяется по лицензии Apache-2.0.

zelk12/MT2-Gen2-gemma-2-9B — слитая модель генерации текста на основе Gemma 2, созданная с помощью mergekit методом SLERP из zelk12/MT2-Gen2-BGMAMU-gemma-2-9B и zelk12/MT2-Gen2-IMM-gemma-2-9B. Модель разработана автором репозитория zelk12; README указывает, что в объединении использована конфигурация с коэффициентом t=0,25 и типом данных bfloat16. Модель с архитектурой Gemma2ForCausalLM и 9 млрд параметров предназначена для генерации текста и диалогового общения. Её контекст составляет 8192 токена. В README приведены результаты оценки на Open LLM Leaderboard, включая IFEval и BBH; эти показатели дают ориентир по следованию инструкциям и решению сложных задач, но не гарантируют качество в конкретном сценарии. Метаданные указывают библиотеку Transformers и формат весов safetensors. Сведения о лицензии и поддерживаемых естественных языках в предоставленных данных отсутствуют, поэтому условия использования и языковую специализацию определить нельзя.

fengminqi/my-tg-qwen2.5-7b — дообученная fengminqi языковая модель семейства Qwen2.5 с плотной архитектурой Qwen2ForCausalLM и примерно 7,1 млрд параметров. Она основана на unsloth/qwen2.5-7b-instruct-unsloth-bnb-4bit; для обучения использовались Unsloth и библиотека TRL от Hugging Face. Модель предназначена для генерации текста и диалогового общения. Указанный в метаданных контекст — 32 768 токенов; карточка также отмечает интерфейс вызова инструментов. Среди тегов языка указан английский. Веса представлены в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специализацию дообучения, поэтому конкретные преимущества и ограничения в отдельных предметных областях установить нельзя.

Nanbeige4.2-3B Heretic — вариант Nanbeige/Nanbeige4.2-3B, выпущенный WaveCut и дообученный с помощью ARA-LoRA. Модель предназначена для генерации текста в диалогах; ключевое изменение — заметное снижение частоты отказов при сохранении большей части возможностей базовой модели. В тесте автора число отказов снизилось с 17 до 1 на 100 запросах; это результат конкретного набора тестов, а не гарантия поведения в других сценариях. Модель имеет плотную архитектуру Nanbeige, 3,2 млрд параметров и контекст до 262 144 токенов. Она принимает и генерирует текст, поддерживает чат и интерфейс вызова инструментов. Для загрузки через Transformers требуется включить trust_remote_code=True из-за пользовательской реализации Looped Transformer, в которой 22 физических слоя декодера выполняются дважды. Распространяется в формате Safetensors по лицензии Apache-2.0. Из-за намеренно ослабленного отказного поведения для использования нужны подходящие ограничения доступа, мониторинг и меры безопасности на уровне приложения.

NarutoDolphin-10B — языковая модель для генерации текста, созданная FelixChao слиянием FelixChao/WizardDolphin-7B и FelixChao/NinjaDolphin-7B. Она построена на архитектуре Mistral и содержит 10,6 млрд параметров; нативная длина контекста составляет 32 768 токенов. Модель подходит для диалогов и генерации текста.

Nemotron-SEA-LION-v4.8-30B-A3B — инструктивная языковая модель, разработанная AI Products Pillar организации AI Singapore при финансировании National Research Foundation Singapore. Она дообучена на основе aisingapore/Nemotron-SEA-LION-v4.8-30B-A3B-Base с помощью SFT и онлайн-дистилляции по собственным ответам модели. Архитектура — гибрид Mamba2 и Transformer с Mixture of Experts; модель рассчитана на контекст до 262 144 токенов. Модель предназначена для генерации текста, диалога и выполнения инструкций на английском и языках Юго-Восточной Азии: бирманском, вьетнамском, индонезийском, тагальском, малайском, тамильском и тайском. Среди оценённых сценариев — ответы на вопросы, анализ тональности, перевод, суммаризация, причинно-следственные рассуждения, распознавание токсичности и многоходовый чат. Модель распространяется по лицензии MIT. Качество и надёжность ответов могут быть непоследовательными: модель способна галлюцинировать и выдавать не относящийся к запросу текст. Устойчивость к состязательным запросам не проверялась, а безопасность не была специально выровнена; для прикладного использования могут потребоваться отдельная настройка безопасности и проверка результатов.

NeuralHermes-2.5-Mistral-7B-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель MaziyarPanahi, созданная слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.2 и mlabonne/NeuralHermes-2.5-Mistral-7B. Это плотная модель Mistral с 7,1 млрд параметров, предназначенная для генерации текста и ответов на инструкции в формате диалога; максимальный контекст составляет 32 768 токенов. Модель принимает текст и выдаёт текст. Карточка не уточняет поддерживаемые естественные языки или специализированные области применения. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. Качество ответов может варьироваться в зависимости от запроса; отдельные ограничения производительностью и поведением в README не описаны.

NeuralKrishna-7B-v3 — объединённая модель для генерации текста, созданная Kukedlc с помощью LazyMergekit. В конфигурации указана база mlabonne/Monarch-7B и слияние методом DARE-TIES с NeuralGlitch-Yam-Peleg-7B-DT, Fasciculus-Arcuatus-7B-slerp и Neural4gsm8k; веса сохранены в формате bfloat16. Метаданные указывают архитектуру Mistral с плотной сетью из 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и может быть полезна для диалогов и решения задач на рассуждение, включая математические вопросы, благодаря включённой в слияние Neural4gsm8k. Поддерживаемый язык в источниках не указан. Модель распространяется по лицензии Apache-2.0.

NeuralsirkrishnaShadow_CalmeInex12 — объединённая модель генерации текста, созданная на основе automerger/NeuralsirkrishnaShadow-7B и automerger/CalmeInex12-7B. В карточке указаны архитектура Mistral с плотной архитектурой и 7,1 млрд параметров; модель рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0.

Omega AI 14B — диалоговая языковая модель семейства Omega AI, основанная на дообученной Qwen/Qwen3-14B. Это плотная причинная модель архитектуры Qwen3 с 14 млрд параметров; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и диалогов, а метаданные также указывают интерфейс вызова инструментов. Контекст составляет 40 960 токенов. Модель подходит для диалоговых помощников и генерации ответов на текстовые запросы. README называет её рабочим кандидатом, но не приводит результатов оценки качества или подробных рекомендаций по применению. Условия использования и атрибуции исходной модели Qwen3-14B сохраняются; отдельная лицензия Omega AI в карточке не указана.

PureLLama3-8B — диалоговая языковая модель семейства Llama, созданная bunnycore путём объединения нескольких моделей с помощью mergekit и метода model_stock. В состав слияния входят ajibawa-2023/Uncensored-Frank-Llama-3-8B, bunnycore/LLama3-8B-FunStock и bunnycore/FunLLama3-8B. Модель предназначена для генерации текста и ответов в диалоге. Она содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст, формируя текстовые ответы; заявленная длина контекста — 8192 токена. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0.

Qwen2.5-72B-0.6x-Instruct — объединённая языковая модель, опубликованная пользователем ddh0. Она создана линейным слиянием Qwen/Qwen2.5-72B-Instruct с весом 0,6 и Qwen/Qwen2.5-72B с весом 0,4. Модель предназначена для диалогов и генерации текста; автор стремился сделать инструкционную версию более гибкой и менее жёсткой. Модель использует плотную архитектуру Qwen2 и содержит 71,5 млрд параметров. Она принимает текст и генерирует текст, поддерживает чат и интерфейс вызова инструментов. Контекст — до 32 768 токенов; заявленные языки включают китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Репозиторий использует Transformers и формат safetensors. Лицензия указана как other, поэтому перед использованием следует проверить её условия. Слияние призвано сделать поведение модели гибче, однако README сообщает лишь о первоначальном тестировании и не приводит количественных оценок качества. Возможности и надёжность вызова инструментов отдельно не описаны.

OpenPipe/Qwen3-14B-Instruct — вариант Qwen3-14B, дообученный OpenPipe. Это плотная причинная языковая модель на 14,8 млрд параметров с 40 слоями и групповой многозапросной внимательностью (40 голов Q и 8 голов KV). Шаблон чата настроен так, чтобы модель по умолчанию отвечала в режиме без рассуждений и сохраняла согласованный формат сообщений при обучении и генерации. Модель предназначена для диалоговой генерации текста и дальнейшей настройки в OpenPipe и других фреймворках дообучения. Метаданные указывают контекст 40 960 токенов; в README для базовой Qwen3-14B заявлены 32 768 токенов нативно и до 131 072 с YaRN. Поддерживаются сценарии общения и генерации текста на базе Qwen3. Репозиторий распространяется по лицензии Apache-2.0. Карточка описывает совместимость шаблона и общие возможности Qwen3, но не приводит отдельной оценки качества именно этого варианта; результат зависит от запроса и последующей настройки.

TheCluster/Qwen3.8-27B-Heretic-MLX-4bit — 4-битная квантованная версия модели Qwen3.8-27B, разработанная TheCluster на базе Qwen/Qwen3.8-27B. Модель модифицирована с помощью Heretic v1.4.0 и позиционируется как uncensored-версия с уменьшенными ограничениями на генерируемый контент. В метаданных указана задача image-text-to-text, однако подробности о поддержке изображений в README не приведены. Модель предназначена для диалоговой генерации текста, рассуждений и выполнения инструкций. Заявлена поддержка английского, китайского, русского, испанского, французского, итальянского, японского, корейского и ряда других языков, включая немецкий, арабский, турецкий, польский, украинский, португальский и финский. Размер базовой модели — 27B параметров; используется формат MLX и 4-битная affine-квантизация с размером группы 64. Размер контекста в README не указан. К сильным сторонам относятся сниженный уровень встроенных ограничений, поддержка многоязычных сценариев и возможность запуска в экосистеме MLX при уменьшенных требованиях к памяти благодаря 4-битной квантизации. По умолчанию reasoning_effort установлен в low, чтобы избежать избыточного обдумывания. Для thinking mode рекомендованы temperature 1.0, top_p 0.95 и top_k 20, а для instruct или non-thinking mode — temperature 0.7, top_p 0.80 и top_k 20. Повышение presence_penalty может уменьшить бесконечные повторы, но иногда приводит к смешению языков и небольшому снижению качества. Лицензия — Apache-2.0.

Модель thao-uyen1508/qwen3_MT_epoch1_16bit — дообученная автором thao-uyen1508 плотная языковая модель Qwen3 с 14 млрд параметров. Она предназначена для генерации текста и диалогового общения; метаданные также указывают интерфейс вызова инструментов. Модель обучалась с Unsloth и библиотекой TRL и распространяется в формате safetensors. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 40 960 токенов. Она основана на unsloth/qwen3-14b-unsloth-bnb-4bit и выпущена по лицензии Apache-2.0.

Sakalti/QwenPass-4 — объединённая методом passthrough языковая модель на архитектуре Qwen2, созданная Sakalti с помощью mergekit на основе Sakalti/light-7b-beta. Она предназначена для генерации текста и диалогов; метаданные также указывают интерфейс вызова инструментов. Модель содержит 3,8 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. В репозитории представлены веса в формате safetensors для библиотеки Transformers. Лицензия — Apache-2.0.

EpistemeAI/Reasoning-Llama-3.1-CoT-RE1-NMT — диалоговая языковая модель семейства Llama, разработанная EpistemeAI и дообученная на базе EpistemeAI/Reasoning-Llama-3.1-CoT-RE1. Это плотная модель с 7,5 млрд параметров, контекстом до 131 072 токенов и форматом весов safetensors. Модель предназначена для диалогов, выполнения инструкций и генерации ответов с многошаговыми рассуждениями. В карточке заявлены сценарии виртуальных помощников, поддержки клиентов, обучения и генерации текстов. Среди датасетов в метаданных указаны AI-MO/NuminaMath-TIR и bespokelabs/Bespoke-Stratos-17k. README также упоминает Unsloth и непрерывное обучение, но не приводит подробностей об их реализации в этой версии. Доступны способ запуска через Transformers и лицензия Apache-2.0. Качество и языковое покрытие отдельно не оценены в предоставленных сведениях.