II.3Рефакторинг, миграция и модернизация

Qwen3-8B TMax SFT v3 — контрольная точка модели Qwen3-8B после supervised fine-tuning, обученная командой или автором репозитория willamazon1. Она создана на итерации 353 запуска tmax_sft_v3 и использовалась как начальная политика и референсная модель для последующего обучения с подкреплением, чьи контрольные точки опубликованы отдельно. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Это плотная причинная языковая модель архитектуры Qwen3ForCausalLM с 7,6 млрд параметров и контекстом до 40 960 токенов. README сообщает о конвертации обучающего чекпойнта Megatron-LM в формат Hugging Face safetensors и о весах bfloat16. Базовая модель Qwen3-8B многоязычная и поддерживает генерацию, рассуждения, следование инструкциям, код и вызов инструментов. Эта версия является промежуточным SFT-чекпойнтом, поэтому её качество и поведение могут отличаться от последующих RL-чекпойнтов; README не приводит результаты оценки. Лицензия — Apache-2.0.

Карточка модели chrischain/Satoshi1337-8B на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3-8B, поэтому описание составлено по ней. Meta Llama 3 8B — плотная авторегрессионная языковая модель семейства Llama 3, разработанная Meta. Эта версия принимает текст и генерирует текст, в том числе код; карточка репозитория описывает предварительно обученные и настроенные варианты семейства, но не уточняет, какой именно вариант представлен в этом репозитории. Модель предназначена для генерации текста на английском языке. Предварительно обученную версию можно адаптировать для разных задач генерации естественного языка, а настроенные варианты предназначены для диалоговых сценариев. Архитектура основана на оптимизированном Transformer и использует Grouped-Query Attention; размер модели — 7,5 млрд параметров, длина контекста — 8192 токена. Модель подходит для создания разговорных помощников, генерации и продолжения текста и кода. Результаты требуют проверки, а для приложения следует настроить дополнительные меры безопасности под конкретную аудиторию и сценарий. Лицензия — специальная коммерческая лицензия Meta Llama 3 с условиями использования и ограничениями; перед внедрением необходимо ознакомиться с её текстом и Acceptable Use Policy.

SlimHercules-4.0-Mistral-7B-v0.2 — дообученная Locutusque языковая модель на архитектуре Mistral-7B, предназначенная для диалогов и следования инструкциям в научных и технических областях. Она содержит 7,1 млрд параметров, принимает текст и генерирует текст; размер контекста — 32 768 токенов. В README заявлены навыки выполнения многошаговых инструкций, вызова функций, ответов по биологии, химии, физике, математике, медицине и информатике, а также генерации кода. Для дообучения использован набор hercules-v4.0. Модель подходит для учебных ассистентов и специализированных чат-ботов, пошаговых объяснений и помощи при разработке программ. Вызов функций описан как возможность модели, но для его использования нужна совместимая программная обвязка. Модель может выдавать токсичные ответы, галлюцинировать и допускать фактические ошибки, особенно в специализированных темах; ответы требуют проверки. Доступна по лицензии Apache-2.0.

Myric/Spark-X2.5-4B-GGUF — это GGUF-конверсия модели XHToken/Spark-X2.5-4B, предназначенная для генерации текста и работы в сценариях рассуждений, включая агентное программирование. Модель выпускается в нескольких вариантах точности и квантования для запуска через llama.cpp. Модель имеет плотную архитектуру примерно на 4,11 млрд параметров, 36 слоёв, скрытое пространство размером 2560, 16 query-heads и 4 KV-heads. Она использует чередующееся sliding-window attention: 27 слоёв с окном 512 токенов и 9 слоёв с полным вниманием. Заявлен максимальный контекст до 1 048 576 токенов, однако качество на таком контексте в README не измерялось. Модель поддерживает текстовую модальность, имеет словарь на 131 072 токена и выдаёт блок рассуждений. Сильными сторонами являются сравнительно низкие требования к памяти при длинном контексте, наличие вариантов от BF16 до Q4_K_M и оптимизация квантований с importance matrix. Для запуска требуется специально пропатченная ветка llama.cpp с поддержкой архитектуры spark2_5; стандартная upstream-версия не загрузит модель. Необходимо явно задавать размер контекста, иначе может быть предпринята попытка выделить память под полный контекст в 1 млн токенов. Производительность и результаты в README измерены на ограниченном наборе задач, поэтому их нельзя считать универсальными оценками. Модель и конверсия распространяются по лицензии Apache-2.0.

WuQi-V3-Onyx-27B — созданная проектом WuQi агентная модель для диалогов и многоэтапных задач. Она дообучена методом LoRA на базе мультимодальной Qwen3.8-27B, после чего адаптер объединён с весами. Модель распространяется в формате Transformers и совместима с Transformers, vLLM и SGLang. Лицензия — Apache 2.0. Модель настроена на планирование и выполнение задач с инструментами, проверку наблюдений и гибкое принятие решений. В README описана адаптация для 12 инструментов среды DeepSeek Harness, включая работу с файлами и кодом, веб-поиск и делегирование подзадач. Архитектура — плотная Qwen3.5 с поддержкой изображений; заявленная длина контекста в конфигурации развертывания — 262144 токена. Основной язык карточки — китайский. Это предварительная версия. Заявленные в карточке результаты относятся к оценке DSH-ABench-Basic и внутренним замерам токенов; они не гарантируют аналогичного качества в других сценариях. Для активации дообученной манеры работы README рекомендует специальный system prompt; внешняя инструкция Harness может его переопределить.

Карточка модели Anthropic-ai/Audiotoaudiotranslate на Hugging Face совпадает с карточкой Anthropic-ai/Aiaudiotranslate, поэтому описание составлено по ней. Anthropic-ai/Aiaudiotranslate — мультиязычная разговорная языковая модель на архитектуре Qwen3.5 с 7,2 млрд параметров. Согласно карточке, это независимый проект открытой модели, дообученной для следования инструкциям, устойчивого поведения ассистента, рассуждений, письма, суммаризации и помощи с программированием. Метаданные указывают контекст до 262 144 токенов и варианты весов Safetensors и GGUF, включая квантизированные сборки. Модель предназначена для диалога и генерации текста на разных языках; в README также заявлены задачи транскрибирования и перевода аудио, но описание репозитория сосредоточено на текстовом ассистенте и не подтверждает аудиовход. Лицензия — MIT. Карточка называет проект независимым и неофициальным; приведённые в README показатели бенчмарков описаны как основанные на Qwen3.5 9B.

Baanzon-Chenni-1.5-9B-GGUF — квантизированная версия модели Baanzon-Chenni-1.5-9B, разработанной Devopsopraiz и преобразованной в формат GGUF пользователем mradermacher. Модель относится к семейству Qwen3 и предназначена для генерации текста, диалоговых сценариев, задач программной инженерии и использования в автономных агентах. В карточке указан английский язык. Модель содержит около 9 миллиардов параметров и доступна в вариантах с разной степенью квантизации: от Q2_K до Q8_0, а также в формате F16. Размер файлов составляет примерно от 3,9 до 18 ГБ. Для мультимодального использования предоставляются отдельные файлы mmproj, однако поддерживаемые типы входных данных и точный набор мультимодальных возможностей не указаны. Размер контекста и другие архитектурные характеристики также не приведены. Основное преимущество сборки — возможность запуска модели в GGUF-совместимых средах с выбором компромисса между размером, скоростью и качеством. В README варианты Q4_K_S и Q4_K_M названы быстрыми и рекомендуемыми, Q6_K — обеспечивающим очень хорошее качество, а Q8_0 — быстрым вариантом с наилучшим качеством среди перечисленных. Более агрессивная квантизация может снижать качество ответов, а конкретные ограничения исходной модели и результаты оценивания не указаны. Лицензия модели — MIT.

huihui-ai/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2 — модифицированная версия DeepSeek-R1-Distill-Qwen-14B от huihui-ai. Автор применил abliteration — экспериментальный метод изменения весов, предназначенный для ослабления отказов модели. Это плотная причинная языковая модель семейства Qwen2 на 14 млрд параметров; она принимает текст и генерирует текст, в том числе в диалоговом формате. Метаданные указывают контекст до 131 072 токенов и использование Transformers. Модель предназначена для диалогов и генерации текста, включая сценарии, где требуется меньше отказов на запросы. Базовая модель рассчитана на рассуждения, математику и программирование, однако карточка этой модификации называет её изменение грубым proof of concept и не приводит оценки качества. Лицензия в предоставленных данных не указана.

sixtyoneeighty/FNCARL9000 — языковая модель с архитектурой Mixtral и смесью экспертов (MoE), созданная на основе четырёх моделей с помощью LazyMergekit: Open-Orca/Mistral-7B-OpenOrca, NeuralNovel/Mistral-7B-Instruct-v0.2-Neural-Story, S-miguel/The-Trinity-Coder-7B и chihoonlee10/T3Q-Mistral-Orca-Math-DPO. Модель предназначена для генерации текста и диалогов; объединение исходных моделей ориентировано на инструкции, рассказы, код и математические задачи. Модель содержит 7,1 млрд параметров, использует формат safetensors и имеет контекст до 32 768 токенов. Карточка указывает лицензию Apache-2.0. Язык и качество ответов отдельно не описаны; составные модели включают англоязычную инструкционную модель. Практические результаты могут различаться по задачам, представленным в исходных моделях.

K2-Horizon-0.9B GGUF — набор общественных GGUF-квантизаций компактной плотной reasoning-модели класса 0,9 млрд параметров K2-Horizon-0.9B, разработанной IFM. Квантизации подготовлены сообществом; этот выпуск не является официальным релизом или одобрением IFM. Модель предназначена для локального запуска через llama.cpp. Модель рассчитана на англоязычные и китайскоязычные диалоги, рассуждения, программирование, научные задачи и сценарии с использованием инструментов. Она поддерживает контекст до 128K токенов и использует масштабирование RoPE методом YaRN. В выпуск входят варианты от Q8_0 до Q1_0 и IQ1_M/IQ2_XS; размер файлов составляет примерно от 0,21 до 1,07 ГиБ, что позволяет выбирать баланс между качеством, скоростью и требованиями к памяти. Высокобитные варианты обеспечивают более высокую точность, а Q4_K_M заявлен как рекомендуемый начальный вариант для общего применения. Агрессивные низкобитные варианты снижают требования к памяти, но могут заметно ухудшать рассуждения, следование инструкциям и надёжность вызова инструментов. Поддержка K2-Horizon в llama.cpp находится на стадии предварительного релиза: полнофункциональный шаблон для tool calling не разбирается используемой версией runtime, поэтому вызов инструментов этим выпуском не сертифицирован. Релиз распространяется по Apache License 2.0 с требованием сохранять атрибуцию и лицензию исходной модели при перераспределении.

Карточка модели dganochenko/llama-3-8b-chat на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3-8B-Instruct, поэтому описание составлено по ней. NousResearch/Meta-Llama-3-8B-Instruct — инструктивная версия семейства больших языковых моделей Llama 3, разработанного Meta. Это плотная авторегрессионная трансформерная модель класса LlamaForCausalLM с Grouped-Query Attention и примерно 7,5 млрд параметров; она принимает текст и генерирует текст, включая код. Контекст — до 8192 токенов. Модель настроена для диалоговых сценариев и работы в роли ассистента: она отвечает на вопросы, поддерживает беседу и выполняет инструкции на английском языке. Настройка включает supervised fine-tuning и обучение с подкреплением на основе человеческой обратной связи. Модель можно запускать через Transformers и использовать в приложениях, которым нужна генерация текста. В карточке указана пользовательская коммерческая лицензия Meta Llama 3. README ориентирует модель прежде всего на английский язык и предостерегает от использования в других языках, хотя допускает дообучение для них при соблюдении условий лицензии и политики допустимого использования. Это статичная модель, обученная на офлайн-данных; для прикладного развёртывания могут потребоваться дополнительные меры безопасности, а ответы модели могут быть ошибочными.

Карточка модели jknottllm/Meta-Llama-3-8B-Instruct-FineTuned на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3-8B-Instruct, поэтому описание составлено по ней. NousResearch/Meta-Llama-3-8B-Instruct — инструктивная версия семейства больших языковых моделей Llama 3, разработанного Meta. Это плотная авторегрессионная трансформерная модель класса LlamaForCausalLM с Grouped-Query Attention и примерно 7,5 млрд параметров; она принимает текст и генерирует текст, включая код. Контекст — до 8192 токенов. Модель настроена для диалоговых сценариев и работы в роли ассистента: она отвечает на вопросы, поддерживает беседу и выполняет инструкции на английском языке. Настройка включает supervised fine-tuning и обучение с подкреплением на основе человеческой обратной связи. Модель можно запускать через Transformers и использовать в приложениях, которым нужна генерация текста. В карточке указана пользовательская коммерческая лицензия Meta Llama 3. README ориентирует модель прежде всего на английский язык и предостерегает от использования в других языках, хотя допускает дообучение для них при соблюдении условий лицензии и политики допустимого использования. Это статичная модель, обученная на офлайн-данных; для прикладного развёртывания могут потребоваться дополнительные меры безопасности, а ответы модели могут быть ошибочными.

Meta-Llama-3-8B-Instruct-GGUF — это квантизированное представление модели Meta-Llama-3-8B-Instruct в формате GGUF, подготовленное пользователем brittlewis12 на основе оригинальной модели Meta. Модель разработана Meta и относится к семейству Llama 3. Она предназначена для генерации текста и диалоговых сценариев, включая локальные приложения и ассистентов, работающих через llama.cpp и совместимые инструменты. Модель использует авторегрессионную оптимизированную архитектуру Transformer и содержит около 8 миллиардов параметров. Instruction-tuned версия обучена с применением supervised fine-tuning и reinforcement learning from human feedback для повышения полезности и безопасности ответов. Указан английский язык; поддерживается только текстовая модальность. Формат GGUF и внесённые улучшения токенизации упрощают использование в локальных средах, включая устройства Apple, однако конкретные требования к памяти и производительности в README не указаны. Сильными сторонами являются диалоговая настройка, относительно компактный размер и заявленные результаты оригинальной модели на тестах знаний, программирования и математики. Ограничениями выступают отсутствие сведений о характеристиках конкретных уровней квантизации, размере контекста и качестве работы на других языках, а также возможные ошибки и ограничения безопасности, свойственные генеративным языковым моделям. Лицензия указана как Llama 3 с отдельными условиями Meta; подробности приведены в лицензии оригинальной модели.

MiMo-V2.5-Pro-Base — базовая языковая модель Xiaomi семейства MiMo-V2.5. Это плотная модель с архитектурой Mixture-of-Experts: в README указаны 1,02 трлн параметров всего и 42 млрд активных, тогда как метаданные репозитория указывают 27,7 млрд параметров; размер следует считать противоречивым. Веса опубликованы в формате safetensors с FP8, библиотека для работы — Transformers, лицензия — MIT. Модель предназначена как базовый чекпойнт для генерации текста и дальнейшей адаптации под агентные сценарии, программирование и сложные задачи с длинным контекстом. В карточке описаны гибридное внимание, сочетание локального скользящего и глобального внимания и три модуля Multi-Token Prediction. Для варианта Base README указывает контекст до 256 тысяч токенов; заявленный для основной версии Pro контекст до 1 млн токенов не следует автоматически относить к этому варианту. В метаданных также отмечены чат, код и интерфейс вызова инструментов; поддерживаемые языки — английский и китайский. Xiaomi сообщает о предварительном обучении на 27 трлн токенов и последующем обучении с инструкциями, агентным обучением с подкреплением и дистилляцией от нескольких учителей. В README приведены результаты тестов, однако они не гарантируют качество в конкретном применении. Лицензия MIT разрешает использование на её условиях.

Это квантованная версия модели Nemotron-3-Nano-Omni-AEON-Ultimate-Uncensored-BF16, преобразованная в формат GGUF для запуска с llama.cpp. Базовая модель связана с AEON-7/Nemotron-3-Nano-Omni-AEON-Ultimate-Uncensored-BF16; репозиторий создан kainecorneko, а конвертацию выполнили через пространство GGUF-my-repo. Модель предназначена для диалогового и инструкционного использования. В метаданных заявлены мультимодальность, работа с текстом, изображениями и аудио, а также функции reasoning, coding и tool calling; README описывает запуск через llama.cpp. Метаданные указывают английский язык и формат GGUF BF16, но точный размер и длина контекста в предоставленных данных не приведены. Метка uncensored указывает на снятые ограничения отказов, поэтому ответы могут включать нежелательное содержание. Лицензия обозначена как other; конкретные условия следует сверить с карточкой базовой модели. Это конверсия в GGUF, а не основание считать репозиторий отдельным дообучением.

Phi-3-mini-4k-instruct-v0.3-GGUF — набор квантизованных файлов модели Phi-3-mini-4k-instruct-v0.3, основанной на Microsoft/Phi-3-mini-4k-instruct. Исходную модель опубликовал MaziyarPanahi, а квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалогов, следования инструкциям, решения задач на рассуждение и работы с кодом. В README указан английский язык; поддержка других языков не заявлена. Обозначение 4k указывает на вариант модели с контекстом порядка 4 тысяч токенов, однако точное значение в представленных данных не раскрыто. Модель поставляется в формате GGUF с несколькими уровнями квантизации — от Q8_0 до Q3_K_M и IQ3_M. Размер файлов составляет примерно от 1,95 до 4,06 ГБ, что позволяет выбирать компромисс между качеством генерации и требованиями к оперативной памяти. Для локального запуска рекомендуется использовать llama.cpp или совместимые инструменты. К сильным сторонам относятся компактность, возможность локального развертывания и несколько вариантов квантизации; более агрессивное сжатие может снижать качество ответов. Данные о мультимодальности, точной архитектуре и числе параметров не указаны. Лицензия модели — MIT. В README приведены результаты на ARC-Challenge, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K, однако они относятся к указанной версии модели и не обязательно одинаковы для всех вариантов квантизации.

MMOPD/Qwen3-4B-OT3-2ep — плотная языковая модель семейства Qwen3, дообученная командой проекта MMOPD на наборе OpenThoughts3-1.2M. Это чекпойнт после двух эпох обучения на трассах рассуждений по математике, программированию и науке; в проекте его также используют как основу для специализированных моделей и экспериментов с дистилляцией. Модель содержит 3,7 млрд параметров, работает с текстом и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации ответов с пошаговым рассуждением, в том числе при решении математических задач, написании кода и ответах на научные вопросы. Она использует шаблон чата Qwen3 и формат thinking; для работы с ним README рекомендует включать `enable_thinking=True` и использовать сэмплирование. В карточке приведены результаты тестов на общих и доменных бенчмарках, включая медицинские и финансовые наборы, но это не означает специализацию модели в этих областях. Лицензия — Apache-2.0.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая языковая модель на базе Qwen3.6-27B, разработанная в результате совместной работы автора, Nightmedia, TeichAI, armand0e и trohrbaugh. Модель создана с применением многоэтапного дообучения и слияния нескольких версий, включая датасеты DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Заявленная цель — улучшить следование инструкциям, общее решение задач, рассуждения и интеллект без изменения основных возможностей базовой модели. Модель предназначена для широкого спектра сценариев: диалогов, анализа, программирования, решения задач, рассуждений, творческого письма, художественной прозы и ролевых взаимодействий. Указаны поддержка английского и китайского языков, а также vision, однако подробности о визуальной архитектуре и поддерживаемых форматах входных данных не приведены. Доступны обычные GGUF-квантизации и варианты MTP для multi-token prediction, включая 4-битные и 8-битные сборки; заявлена оптимизация NEO IMATRIX и частичное сохранение выходного тензора в 16-битной точности. К сильным сторонам относятся улучшенное следование инструкциям, решение задач и рассуждения, а также заявленная высокая производительность на ряде бенчмарков даже в низких квантизациях. Модель позиционируется как uncensored и heretic, то есть с ослабленными ограничениями безопасности, что может быть преимуществом для некоторых сценариев, но повышает риски нежелательного или небезопасного вывода. Для MTP-вариантов рекомендуется температура не выше 1 и отключённый repetition penalty; при низком уровне token acceptance следует использовать обычную квантизацию. Лицензия Apache-2.0.

SwagMessiah100/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — многоэтапная дообученная и объединённая версия Qwen3.6 с 27 млрд параметров. Модель создана в сотрудничестве SwagMessiah, DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh; при обучении использовались собственные и сторонние наборы данных, включая Polar-STRICT-Datasets и F451-STRICT-Datasets. Доступны обычные и MTP GGUF-квантизации, включая варианты с оптимизированными матрицами IMATRIX и частично сохранённой точностью 16 бит. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, программирования, диалогов, ролевых сценариев и творческого письма. Заявлены улучшенные интеллектуальные способности, reasoning и instruction following, а также поддержка vision, то есть обработки текста и изображений. Указаны английский и китайский языки. Контекстное окно, точная архитектура базовой модели и подробные характеристики мультимодального ввода в README не приведены. К сильным сторонам относятся заявленное превосходство базовой Qwen3.6 27B в большинстве авторских бенчмарков, хорошая работа даже с низкими уровнями квантизации и ориентация на запуск на потребительском оборудовании. Модель позиционируется как uncensored/heretic, поэтому её ответы могут иметь меньше встроенных ограничений безопасности. Результаты бенчмарков в основном представлены разработчиками и требуют независимой проверки. Лицензия — Apache-2.0.

unsloth/Qwen3-8B-Base-unsloth-bnb-4bit — это 4-битная квантованная версия базовой причинной языковой модели Qwen3-8B-Base, подготовленная Unsloth на основе модели Qwen от команды Qwen. Модель предназначена для генерации и продолжения текста, языкового моделирования, программирования, STEM-задач, рассуждений и других сценариев, где требуется компактная локальная LLM. Поскольку это базовая предобученная модель, она не ориентирована специально на выполнение пользовательских инструкций или ведение диалога без дополнительной настройки. Модель содержит около 8,2 млрд параметров, из которых 6,95 млрд не относятся к embedding-слою, включает 36 слоёв и использует Grouped Query Attention с 32 головами запросов и 8 головами ключей и значений. Максимальная длина контекста составляет 32 768 токенов. Qwen3 обучалась на корпусе объёмом 36 трлн токенов, охватывающем 119 языков, с данными по программированию, STEM, рассуждениям, книгам, многоязычным и синтетическим материалам. Квантование уменьшает требования к памяти и упрощает локальный запуск, однако может сопровождаться потерей точности по сравнению с исходной полноразмерной версией. Для работы рекомендуется актуальная версия библиотеки transformers; версия ниже 4.51.0 не поддерживает архитектуру Qwen3. Модель распространяется по лицензии Apache-2.0.

Skywork o1 Open-Llama-3.1-8B — разговорная языковая модель команды Skywork компании Kunlun Inc., дообученная на базе Meta-Llama-3.1-8B-Instruct с данными для пошагового рассуждения. Это плотная причинно-следственная модель семейства Llama с 7,5 млрд параметров; она принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и интерфейс вызова инструментов. Модель предназначена для диалогов и решения задач, требующих рассуждений: математических и логических задач, планирования, самопроверки, вопросов на здравый смысл, а также задач программирования. Разработчики описывают трёхэтапное обучение, включающее обучение рефлексивным рассуждениям, обучение с подкреплением и планирование; заявленные улучшения основаны на результатах бенчмарков, приведённых в карточке модели. Модель распространяется в формате safetensors. Метаданные указывают лицензию «other», поэтому конкретные условия использования следует проверять в лицензии репозитория. Разработчики предупреждают о возможных непредсказуемых рисках и просят не развёртывать модель в интернет-сервисах без соответствующей проверки безопасности.

Thalassic-Alpha-LLaMa-70B — объединённая модель для генерации текста, созданная автором TareksGraveyard на основе DeepSeek-R1-Distill-Llama-70B и нескольких моделей семейства Llama. Для слияния предварительно обученных моделей автор использовал mergekit и метод Linear DELLA. Модель предназначена для диалогов и генерации ответов; автор сообщает о многообещающих ранних результатах, но отмечает, что другой вариант его эксперимента показался ему лучше. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Она принимает текст и генерирует текст. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия — llama3.3.

AlphaAI-1.5B-Thought — языковая модель Alpha AI, дообученная на базе Qwen2.5-1.5B для пошаговых рассуждений и решения структурированных задач. Это плотная авторегрессионная модель семейства Qwen2 с 1,5 млрд параметров; заявленная длина контекста — 131 072 токена. Модель принимает текст и генерирует текст, а карточка указывает английский язык. Модель предназначена для локального запуска и диалоговых сценариев, где полезны многошаговые выводы: разбор математических и научных задач, программирование, генерация рабочих процессов и структурированные ответы виртуальных помощников. Веса представлены в формате PyTorch/Safetensors; README также описывает вариант с 16-битной точностью и перечисляет доступные квантизованные варианты. Лицензия — Apache-2.0. Модель может наследовать предвзятости обучающих данных, а ответы для критически важных задач следует проверять; качество в конкретных предметных областях карточка не подтверждает.

airoboros-13b-gpt4-1.3 — диалоговая модель jondurbin, дообученная методом QLoRA на базе LLaMA с использованием синтетических инструкций, созданных GPT-4. Это версия с 12,9 млрд параметров для генерации текста и ответов на запросы в формате чата; в обучающие данные добавлены задания на рассуждение в стиле Orca, инструкции по программированию и примеры многостороннего диалога. Модель рассчитана на текстовый ввод и выдачу текста. Для работы используется шаблон диалога на основе Vicuna; нативный контекст составляет 2048 токенов. Репозиторий содержит веса PyTorch. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение. Автор предупреждает, что в этой версии есть проблемы и рекомендует дождаться версии 1.4. Ответы могут быть неточными; модель не следует считать надёжным источником без проверки.

Это GGUF-квантизированная версия языковой модели cogito-v2-preview-llama-70B, разработанной deepcogito и подготовленной пользователем bartowski. Модель предназначена для генерации текста и может использоваться в локальных приложениях на базе llama.cpp, включая LM Studio и другие совместимые проекты. В основе лежит модель класса Llama с заявленным размером 70B параметров. Доступны варианты квантования от Q8_0 до Q2_K_L и IQ3/IQ4, различающиеся размером файла, требованиями к памяти и качеством вывода. Более качественными и рекомендуемыми в README названы варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS; модели с более низкой разрядностью экономят память, но могут заметно уступать в качестве. Формат GGUF и imatrix-квантование облегчают локальный запуск, однако даже компактные варианты требуют значительных ресурсов. В README не указаны поддерживаемые языки, размер контекстного окна, точная архитектура исходной модели, мультимодальные возможности и лицензия. Шаблон чата также не задан и может требовать проверки по карточке исходной модели; приведённый формат основан на служебных токенах Llama. Условия использования в представленном README не указаны.

unsloth/DeepSeek-R1-Distill-Qwen-1.5B — компактная языковая модель от Unsloth на архитектуре Qwen2, дообученная на примерах рассуждений, созданных DeepSeek-R1. Она предназначена для генерации текста и диалоговых сценариев, особенно для решения задач по математике, программированию и логическим рассуждениям. Модель содержит 1,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель принимает текст и генерирует текст; в метаданных также отмечен интерфейс для вызова инструментов. В README описано семейство DeepSeek-R1-Distill, обученное на открытых моделях, включая Qwen, однако точная базовая модель этого репозитория указана в метаданных как deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B. Репозиторий распространяется по лицензии MIT. README рекомендует следовать настройкам запуска семейства для ожидаемого качества.

DeepSeek-V4-Flash-0731-GPTQ-Int4-V1 — это 4-битная GPTQ-квантизованная версия модели DeepSeek-V4-Flash-0731, опубликованная пользователем sokada4. Квантизация выполнена с помощью GPTQModel 7.3.4 и предназначена для более эффективного запуска исходной модели при ограниченных ресурсах GPU. Данные о точном размере модели, архитектуре, поддерживаемых модальностях, полном наборе языков и исходном размере контекста в README не указаны. Модель использует схему W4A16 с 4-битными весами, group size 128, симметричной квантизацией и упаковкой в int32; параметр lm_head не квантизован. Калибровка проведена на 128 примерах на китайском, английском, японском языках и Python-коде с длиной последовательности 2048 токенов. В README приведены результаты на 4 GPU Ampere: по сравнению с неквантизованным fp8-чекпойнтом модель показала меньшее время до первого токена и более высокую производительность, особенно при параллелизме 8. Основные ограничения связаны с инфраструктурой: для запуска через vLLM требуется специальная сборка с поддержкой DeepSeek-V4 GPTQ для GPU Ampere, а полный чекпойнт занимает около 153 ГБ и может потребовать выгрузки части весов в CPU. Релиз является первой калибровочной версией V1; заявлена возможная последующая версия V2 с другим набором калибровочных данных. Лицензия — MIT, унаследованная от базовой модели.

EVA-QwQ-32B-Preview — плотная языковая модель на 32 млрд параметров, созданная слиянием моделей Qwen/QwQ-32B-Preview и EVA-UNIT-01/EVA-Qwen2.5-32B-v0.2 методом TIES с помощью mergekit. Она предназначена для генерации текста в диалоговом формате; базовая модель QwQ ориентирована также на математические рассуждения и программирование. Репозиторий использует Transformers и формат safetensors, а заявленная длина контекста составляет 32 768 токенов. Модель может подойти для диалоговых приложений и генерации ответов, а также для задач рассуждения и программирования, унаследованных от базовой QwQ. Карточка не приводит результатов оценки качества или отдельных гарантий этих возможностей. Лицензия в предоставленных данных не указана.

Liberalis Cogitator Llama 3.1 8B — разговорная текстовая модель Locutusque, дообученная на базе meta-llama/Llama-3.1-8B примерно на 450 тысячах диалогов, задач и историй. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, предназначенная для генерации текста и диалогов; заявленная длина контекста — 131 072 токена. В карточке указана поддержка английского языка. Модель ориентирована на решение STEM- и логических задач, программирование, ролевые диалоги, рассказы и построение вымышленных миров. В обучающих данных также использовались синтетические диалоги пациента и психолога, однако карточка не подтверждает пригодность модели для профессиональной психологической помощи. Автор предупреждает, что ответы могут быть ошибочными, необычными или спорными и что модель не знает актуальных событий. Лицензия — Llama 3.1; её условия определяются лицензией Meta Llama 3.1.

PlumCode — слитая языковая модель, созданная автором репозитория sequelbox с помощью mergekit на основе Meta Llama 3.1 8B Instruct и моделей Llama3.1-8B-ShiningValiant2 и Llama3.1-8B-Enigma. Используется архитектура LlamaForCausalLM с плотной сетью примерно на 7,5 млрд параметров; веса опубликованы в формате safetensors. Контекстное окно составляет 131 072 токена. Модель предназначена для генерации текста и диалогов по инструкциям, включая помощь с кодом и техническими темами. В тегах указаны Python, информатика, естественные науки и инженерия; карточка не подтверждает отдельные специализированные возможности сверх генерации текста. Лицензия — llama3.1. README приводит результаты Open LLM Leaderboard, но не содержит полного набора оценок.