II.10Разработка и эксплуатация AI/ML-систем

New-Dawn-Ultra-Llama-3-70B-32K-v1.0 — текстовая генеративная модель, созданная объединением предварительно обученных языковых моделей методом SLERP с помощью mergekit. В состав объединения вошли варианты New Dawn Ultra Llama 3 70B 32K v0.16 и v0.18. Модель построена на плотной архитектуре LlamaForCausalLM, содержит 69,5 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для составления ответов, продолжения текста и ведения беседы в приложениях на базе Llama. Карточка не сообщает о специализированных областях применения или поддерживаемых естественных языках. Весовые файлы представлены в формате safetensors; модель использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

Nyxene-11B — разговорная языковая модель на архитектуре Mistral, опубликованная пользователем beberik. Репозиторий содержит веса bf16, а модель создана с помощью mergekit на основе Starling-LM-7B-alpha, NeuralHermes-2.5-Mistral-7B, juanako-7b-UNA и dolphin-2.1-mistral-7b. Она предназначена для генерации текста и ответов на инструкции в диалоговом формате. Модель содержит 10,6 млрд параметров и поддерживает контекст до 32 768 токенов. README предлагает шаблон запроса в формате инструкции и приводит результаты оценки на Open LLM Leaderboard. Указанные оценки дают ориентир по отдельным тестам, но не гарантируют качество на конкретных задачах. Доступна по лицензии CC BY-NC 4.0, ограничивающей коммерческое использование.

OpenAssisted-English-Mistral-7b-i1-GGUF — это квантизированная версия англоязычной языковой модели OpenAssisted-English-Mistral-7b, разработанной Akshaykumarbm и преобразованной в формат GGUF пользователем mradermacher. Модель относится к семейству Mistral и предназначена для генерации текста, диалогового взаимодействия и других задач языкового моделирования на английском языке. Репозиторий содержит набор вариантов квантизации i1 с разным размером — примерно от 1,7 до 6,0 ГБ, а также imatrix-файл для создания собственных квантов. Доступны варианты IQ и Q с различным компромиссом между размером, скоростью и качеством. В README рекомендуются i1-Q4_K_M как быстрый вариант и i1-Q4_K_S как сбалансированный по размеру, скорости и качеству; низкобитные варианты экономят память, но могут заметно уступать по качеству. Точная архитектура, размер контекста, поддерживаемые модальности помимо текста и дополнительные языки не указаны. Модель распространяется по лицензии Apache-2.0. Для работы с файлами GGUF требуется совместимое программное обеспечение; конкретные требования к оборудованию и производительности зависят от выбранного варианта квантизации.

OpenR1-Distill-7B — языковая модель с 7,1 млрд параметров, разработанная командой Open-R1 на основе Qwen2.5-Math-7B с расширенной частотой RoPE. Модель дообучена методом supervised fine-tuning на Mixture-of-Thoughts — наборе из 350 тысяч проверенных цепочек рассуждений, дистиллированных из DeepSeek-R1. Архитектура — плотная Qwen2, модель для генерации текста с поддержкой диалогового режима и контекстом до 32 768 токенов. Модель предназначена для пошаговых рассуждений на английском языке в задачах математики, программирования и науки, а также для исследований вычислений на этапе вывода и обучения с проверяемыми вознаграждениями. В опубликованных оценках указаны результаты на AIME 2024, MATH-500, GPQA Diamond и LiveCodeBench; сравнение зависит от протокола выборки ответов. Модель распространяется под лицензией Apache 2.0. Она ориентирована прежде всего на английский язык, а результаты в бенчмарках не гарантируют точность на произвольных запросах; для задач, требующих достоверных ответов, выводы следует проверять.

OrcaMaidXL 17B 32K — языковая модель для генерации текста, разработанная ddh0 и представленная в формате GGUF. Это квантованная версия исходной модели ddh0/OrcaMaidXL-17B-32k; квантование выполнено TheBloke. Модель относится к архитектуре Llama, имеет около 17 миллиардов параметров и заявленный контекст до 32 тысяч токенов. Она предназначена для текстовых задач и использует формат инструкций Alpaca: запрос передаётся как инструкция, после чего модель формирует ответ. Модель подходит для локального запуска и сценариев, требующих генерации текста с использованием CPU и GPU; GGUF поддерживается llama.cpp и рядом совместимых приложений и библиотек. В README не указаны поддерживаемые языки, результаты тестирования или специализированные сильные стороны, поэтому качество в конкретных задачах заранее оценить нельзя. Используется квантованное представление, что может уменьшать требования к ресурсам по сравнению с полной версией, но потенциально влияет на точность в зависимости от выбранного варианта квантования. Лицензия обозначена как microsoft-research-license и other; также указано, что модель основана на Llama 2 и может подпадать под условия лицензии Meta Llama 2. Вопросы о взаимодействии этих условий рекомендуется уточнять у автора исходной модели.

ornith-1.5-9b-attention8-bf16recurrence-vision-mlx — гибридная MLX-модель для Apple Silicon, созданная ShiftedX на основе Ornith-1.5-9B от ornith-ai. Она предназначена для генерации текста и анализа изображений в сценариях image-text-to-text, включая описание изображений, ответы на вопросы по визуальному содержимому, использование инструментов и агентские задачи. Запуск выполняется в авторегрессионном режиме через MLX-LM и MLX-VLM. Модель занимает 8,87 ГБ. Языковая часть включает 130 модулей affine-8, 72 модуля affine-4 и 48 модулей recurrent-input в формате BF16; визуальная часть содержит 333 тензора BF16, унаследованных от родительской модели. Заявленное окно контекста составляет 262 144 токена. Поддержка native MTP отсутствует, поскольку в исходном checkpoint нет тензоров mtp.*. README не указывает полный перечень языков. По результатам тестирования на Apple M4 Max с 64 ГБ памяти модель показала скорость декодирования около 46–54 токенов в секунду в текстовых режимах, полный результат в инструментальных задачах и смешанные результаты в задачах качества, длинного контекста, агентской работы и строгой проверки ответов по изображениям. Поведение может изменяться из-за используемого квантования; для ограничений и предполагаемого применения следует учитывать карточку родительской модели. Модель распространяется по лицензии MIT.

Ouro-1.4B-Thinking-depth-SFT — дообученная разговорная языковая модель примерно с 1,3 млрд параметров, основанная на ByteDance/Ouro-1.4B-Thinking. Она использует плотную архитектуру Ouro для генерации текста и ответов с рассуждениями; карточка задаёт параметр глубины DEPTH=16. Модель рассчитана на диалоги и задачи, где полезны пошаговые рассуждения, включая математику, науку и код. Она принимает текст и выдаёт текст, поддерживает контекст до 65 536 токенов и предназначена для использования через Transformers. Модель опубликована под лицензией Apache-2.0. Доступная карточка содержит мало сведений о данных и результатах обучения, поэтому качество на конкретных задачах и языках по ней оценить нельзя.

Phi-3.5-mini-instruct_Uncensored-GGUF — это квантизированная версия инструкционной текстовой языковой модели Phi-3.5-mini-instruct_Uncensored, разработанной SicariusSicariiStuff и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев; запуск возможен через llama.cpp и совместимые приложения, включая LM Studio. В README указан специальный формат промпта с ролями system, user и assistant. Доступны варианты от исходных весов F16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3, Q2 и IQ. Размер файлов составляет примерно от 1,42 до 7,64 ГБ, что позволяет выбирать между качеством ответов и требованиями к памяти. Для квантизации использовался llama.cpp b3600 с методом imatrix. Более высокие варианты, включая Q6 и Q5, характеризуются как обеспечивающие очень высокое или высокое качество, тогда как Q2 и Q3 экономят память ценой заметного снижения качества. README не содержит сведений о точном числе параметров, архитектуре, длине контекста, поддерживаемых языках или мультимодальности. Модель распространяется по лицензии Apache-2.0.

ProCreations_grug-35b-v2-GGUF — квантованная версия модели grug-35b-v2, разработанной ProCreations и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp. В метаданных модель отмечена как MoE и предназначенная для сценариев image-text-to-text; заявлена поддержка английского языка. Также указаны ориентация на рассуждения, экономное использование токенов, агентные сценарии и работу с инструментами. Модель доступна в вариантах от BF16 до различных уровней квантования IQ и Q, включая рекомендуемые Q4_K_M, Q5_K_M, Q6_K и другие. Размер файлов варьируется примерно от 16 до 69 ГБ, поэтому требования к оперативной или видеопамяти зависят от выбранного варианта. Квантованные версии предназначены для локального запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Сильными сторонами являются широкий выбор квантований, возможность локального использования и заявленная пригодность для рассуждений, агентных задач и tool use. При этом точный контекст, архитектурные параметры, перечень поддерживаемых модальностей за пределами указанного pipeline tag и сравнительные результаты качества в README не раскрыты. Более сильное квантование обычно требует больше памяти, а малые варианты могут заметнее терять в качестве. Модель распространяется по лицензии Apache-2.0.

Q2.5-Veltha-14B-0.5-GGUF — GGUF-квантизированная версия модели Q2.5-Veltha-14B-0.5, созданная на базе djuna/Q2.5-Veltha-14B-0.5 и подготовленная пользователем bartowski с использованием llama.cpp и imatrix-квантизации. Модель предназначена для генерации текста и может запускаться через llama.cpp и LM Studio. В README указан специальный шаблон диалога с ролями system, user и assistant. Модель имеет размер 14B параметров; доступны варианты от F16 до Q3_K_XL, включая Q4_K_M, Q5_K_M, Q6_K и Q8_0. Для наиболее распространённых сценариев рекомендуется Q4_K_M, а варианты Q5 и Q6 обеспечивают более высокое качество при большем потреблении памяти. Точные архитектура, размер контекста, поддерживаемые языки и мультимодальные возможности в README не указаны. По опубликованным результатам Open LLM Leaderboard модель получила 77,96% строгой точности на IFEval, 50,32% на BBH, 33,84% exact match на MATH уровня 5, 15,77% на GPQA, 14,17% на MuSR и 47,72% на MMLU-PRO. Эти показатели характеризуют качество на отдельных тестах, но не гарантируют аналогичную эффективность в прикладных задачах. Информация о лицензии в README отсутствует.

bunnycore/Qwen-2.5-3b-RP — чат-модель на архитектуре Qwen2, созданная автором репозитория слиянием весов через mergekit методом DARE TIES. В слияние вошли Replete-AI/Replete-LLM-V2.5-Qwen-3b, unsloth/Qwen2.5-3B-Instruct и bunnycore/qwen-2.5-3b-lora_model; в README базовой моделью назван Replete-AI/Replete-LLM-V2.5-Qwen-3b. Модель содержит 3,1 млрд параметров, использует формат safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для диалоговой генерации текста и ответов на запросы; метаданные также указывают интерфейс вызова инструментов. Карточка не описывает отдельную специализацию, языковое покрытие или оценку качества. Лицензия в предоставленных данных не указана.

Qwen2-VL-72B-Instruct-GGUF — мультимодальная instruction-tuned модель семейства Qwen2-VL, разработанная Qwen и квантованная компанией Second State Inc. Модель предназначена для обработки изображений и текстовых запросов, включая задачи визуального анализа, распознавания содержимого изображений и генерации ответов по ним. В карточке указана поддержка английского языка и формат image-text-to-text. Модель основана на Qwen2-VL-72B-Instruct с размером 72 млрд параметров и поставляется в формате GGUF с вариантами квантования от 2 до 8 бит. Доступны отдельные файлы визуального энкодера; для запуска с LlamaEdge используется шаблон qwen2-vision и заявлен контекст до 128 000 токенов. Вариант Q4_K_M описан как сбалансированный по качеству и размеру, а Q5_K_M — как вариант с очень малой потерей качества. Основные преимущества — мультимодальность, большой контекст и возможность выбора уровня квантования в зависимости от доступных ресурсов. Ограничения связаны с существенными требованиями к дисковому пространству и вычислительным ресурсам: размеры файлов варьируются примерно от 29,8 до 47,4 ГБ для указанных вариантов, а низкобитные версии могут заметно терять качество. Модель распространяется по лицензии tongyi-qianwen; в карточке указан тип лицензии other и ссылка на лицензию исходной модели.

Andycurrent/Qwen3.5-4B-Uncensored-HauhauCS-Aggressive — модифицированная версия языковой модели Qwen3.5-4B, созданная HauhauCS на базе модели Alibaba Qwen Team. Это авторегрессионная Transformer-модель примерно на 4 млрд параметров, предназначенная для локального запуска, диалоговых приложений, генерации текста, программирования, рассуждений, prompt engineering и исследований механизмов выравнивания и отказов моделей. Указана поддержка английского языка. Модель ориентирована на работу без внешних API и может применяться в автономных и приватных средах. Главная особенность варианта Aggressive — снижение или устранение safety-ориентированных отказов и минимизация отказов в ответах, благодаря чему модель более охотно обрабатывает широкий спектр запросов. При этом заявлено сохранение основных возможностей базовой Qwen3.5-4B в области диалогов, рассуждений, кодинга и общих знаний. Для общения рекомендуется ChatML-подобный шаблон; заявлена совместимость с Transformers, llama.cpp, KoboldCpp, Ollama и vLLM, а GGUF-квантизации подходят для эффективного запуска, включая CPU-инференс. Ограничением является отсутствие или ослабление защитных механизмов: модель может генерировать небезопасный, нежелательный или потенциально вредный контент, поэтому ответственность за фильтрацию и сценарии применения лежит на пользователе. В README также не указаны размер контекстного окна, точный набор поддерживаемых языков, результаты бенчмарков и конкретный метод модификации. Для модели указана лицензия Apache-2.0.

Карточка модели SYGNITOR/Qwen3.5-9B-Claude-4.6-HighIQ-THINKING-HERETIC-UNCENSORED на Hugging Face совпадает с карточкой DavidAU/Qwen3.5-9B-Claude-4.6-HighIQ-THINKING-HERETIC-UNCENSORED, поэтому описание составлено по ней. DavidAU собрал эту мультимодальную модель на базе Qwen3.5-9B-heretic-v2: автор сообщает о дообучении через Unsloth на дистиллированном наборе рассуждений Claude 4.6. Модель принимает текст и изображения и генерирует текст; карточка заявляет поддержку vision и диалогового режима. В README указаны 9 млрд параметров, архитектура Qwen3.5 с языковой моделью и vision encoder, а также контекст 262 144 токена с возможностью расширения. Заявленная основная область применения — рассуждения, диалог и анализ изображений; автор также приводит результаты на нескольких тестах и сообщает о снижении отказов. README рекомендует квантизацию не ниже Q4_K_S или IQ3_S с imatrix. Видео не тестировалось. Указанные языки карточки — английский и китайский; более широкая языковая поддержка описана для исходной модели Qwen3.5, но отдельно для этого дообучения не подтверждена. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9B-Uncensored — это неофициальная GGUF-сборка модели семейства Qwen, опубликованная пользователем LEONW24 и основанная на Qwen/Qwen3-8B и HauhauCS/Qwen3.5-9B-Uncensored-HauhauCS-Aggressive. Модель предназначена для локального запуска в Ollama, llama.cpp и других средах, совместимых с GGUF, а также для генерации текста и анализа изображений в сценариях, где требуется локальная работа без подключения к облачным сервисам. Модель содержит около 9 млрд параметров и поставляется в формате GGUF с квантованием Q4_K_M; размер файла составляет примерно 6,3 ГБ. Заявленное контекстное окно — до 131 072 токенов. Поддерживаются английский, китайский и другие языки. Архитектура Qwen 3.5 предусматривает возможности работы с мультимодальными данными, включая изображения, однако фактическая поддержка зависит от используемого runtime и корректности конфигурации. Сборка исправляет проблемы исходной упаковки, мешавшие запуску через Ollama и мультимодальному выводу. К сильным сторонам относятся компактность, возможность эффективного CPU- и GPU-инференса, автономная работа и отсутствие встроенных ограничений, характерных для цензурированных версий. При этом статус «uncensored» означает сниженный уровень защитных фильтров, поэтому модель может генерировать небезопасный или нежелательный контент и требует ответственного применения. В README не приведены результаты бенчмарков, поэтому качество относительно других моделей оценить нельзя. Модель распространяется по лицензии Apache 2.0.

Это GGUF-представление модели Qwen3.6-35B-A3B, подготовленное SC117 с применением метода APEX для квантования MoE-моделей. В основе лежит llmfan46/Qwen3.6-35B-A3B-uncensored-heretic-Native-MTP-Preserved — модифицированная версия Qwen3.6-35B-A3B со сниженным числом отказов. В репозитории представлены варианты GGUF, включая F16; README описывает уровни квантования APEX, которые распределяют точность по типам тензоров и слоям. Модель предназначена для диалогов и генерации текста по текстовым и визуальным запросам. Вариант сохраняет 20 слоёв MTP для спекулятивного декодирования; README приводит настройки запуска через llama.cpp и Ollama. Метаданные указывают возможность работы с изображениями, но подробности мультимодальных возможностей и поддерживаемые языки в доступных материалах не раскрыты. Модификация исходной модели позиционируется как uncensored: в README заявлено снижение отказов на 88% при сохранении качества, однако эти цифры приводятся авторами и не являются независимой оценкой. Модель распространяется по лицензии Apache-2.0. Для запуска необходим совместимый движок GGUF; скорость и качество зависят от выбранного варианта квантования и оборудования.

Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking-8bit — языковая текстовая генеративная модель, разработанная сообществом mlx-community. Она представляет собой конверсию модели DavidAU/Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking в формат MLX с использованием mlx-lm 0.31.1 и предназначена для запуска через экосистему MLX. Модель ориентирована на генерацию текста, включая программирование, творческое письмо, создание сюжетов и сцен, сторителлинг и ролевые сценарии. Заявлена поддержка английского и китайского языков. В карточке указаны размер 40B параметров и 8-битное представление, однако сведения об архитектуре, длине контекста и мультимодальности отсутствуют; по назначению и pipeline_tag это текстовая, а не мультимодальная модель. К сильным сторонам относятся специализация на рассуждениях, коде и творческих задачах, а также возможность локального использования в MLX-совместимой среде. Ограничения включают отсутствие подробных данных о качестве, бенчмарках, производительности и точной архитектуре; заявленные характеристики следует проверять на конкретных задачах. Лицензия — Apache-2.0.

Карточка модели etiennebamas/qwen3-lr-1-e-5-neat на Hugging Face совпадает с карточкой etiennebamas/qwen3-step32k-1e5, поэтому описание составлено по ней. Qwen3-step32k-1e5 — диалоговая модель генерации текста на базе Qwen3 с 7,6 млрд параметров, дообученная Etienne Bamas на датасете SFT от formalmathatepfl/qwen3-cpt. Она предназначена для текстовых запросов и диалоговых сценариев; использует плотную архитектуру Qwen3 и поддерживает контекст до 32 768 токенов. Модель распространяется в формате safetensors и рассчитана на работу через Transformers. Карточка не описывает конкретные специализации, результаты оценки или известные ограничения качества. Лицензия указана как other, поэтому условия использования следует сверять с лицензией в репозитории модели и базовой модели.

Qwen3-VL-4B-Thinking-abliterated-v1-GGUF — мультимодальная vision-language модель примерно на 4 млрд параметров, разработанная prithivMLmods на основе Alibaba Qwen3-VL-4B-Thinking. Это вариант в формате GGUF для запуска через совместимые инструменты, включая llama.cpp. Модель принимает изображения и текст и генерирует текстовые ответы, поддерживая анализ, описание и рассуждения по сложному визуальному и мультимодальному содержимому. Основной язык — английский, при этом заявлена адаптация к многоязычным запросам. Контекстное окно и точный перечень поддерживаемых языков в README не указаны. Модель предназначена для визуального captioning, анализа изображений, творческого повествования, работы с художественными, техническими, абстрактными и чувствительными материалами, а также для исследовательских задач, red-teaming и подготовки визуальных наборов данных. К заявленным сильным сторонам относятся мультимодальное рассуждение, следование инструкциям, вариативная детализация ответов и работа с разными соотношениями сторон и разрешениями. При этом это abliterated-версия, ориентированная на менее ограниченные ответы, поэтому она может генерировать явный контент и не рекомендуется для систем, где требуется строгая модерация. Доступны варианты с разными уровнями квантования, включая IQ, Q2–Q8 и F16, с размером файлов примерно от 1,06 до 8,05 ГБ. Лицензия — Apache-2.0.

Qwen3-VL-8B-Instruct-Unredacted-MAX-GGUF — мультимодальная vision-language модель в формате GGUF, разработанная prithivMLmods на базе Qwen3-VL-8B-Instruct-Unredacted-MAX. Модель предназначена для обработки изображений и текста, выполнения инструкций, генерации подписей, объяснений и анализа визуальной информации. Заявленные сценарии включают аннотирование данных, повышение доступности контента, творческое повествование, подготовку исторических и медицинских наборов данных, а также red-teaming и исследование смещений моделей. Модель содержит 8 миллиардов параметров и ориентирована на мультимодальное рассуждение и следование сложным инструкциям. Доступны варианты BF16 и Q8_0, а также отдельные мультимодальные проекторы mmproj в форматах BF16 и Q8_0; размеры файлов варьируются от 752 МБ до 16,4 ГБ. В карточке указаны английский язык и pipeline image-text-to-text. Длина контекста, точные поддерживаемые языки, результаты тестирования и требования к оборудованию не приведены. К заявленным сильным сторонам относятся работа с комплексными визуальными входными данными, подробная генерация текста и снижение ограничений на отказы благодаря unredacted/abliterated дообучению. При этом степень фактической точности и надежности таких возможностей не подтверждена бенчмарками в README, а уменьшение механизмов отказа может повышать риск небезопасных или некорректных ответов. Модель распространяется по лицензии Apache-2.0.

ReAligned-Qwen3.5-27B — диалоговая модель семейства Qwen3.5, созданная Эриком Хартфордом из LazarusAI на базе Qwen/Qwen3.5-27B. Модель дообучена в два этапа: supervised fine-tuning и GRPO с оценкой ReAligned-Classifier; обучение использует LoRA. Цель — уменьшить отказы и государственно-ориентированную подачу ответов на политические и исторические темы, связанные с Китаем, сохранив общие возможности базовой модели. Модель предназначена для чата, суммаризации, программирования, рассуждений, многоязычного использования, а также исследования идеологической предвзятости, отказов и рамки повествования. Архитектура — плотная Qwen3.5 с классом Qwen3_5ForConditionalGeneration; метаданные указывают мультимодальную основу с поддержкой текста и изображений. Карточка не сообщает размер параметров и длину контекста именно этого чекпойнта. Лицензия — Apache-2.0. Снижение цензурных отказов не гарантирует точность фактов; возможны чрезмерная коррекция в сторону западной институциональной рамки, пробелы в знаниях и различия поведения между языками и формулировками. Авторы рекомендуют независимую оценку и собственные меры модерации при развёртывании.

Rombos-LLM-V2.6-Qwen-14b — диалоговая языковая модель автора Rombodawg, представленная как обновлённая версия Rombos-LLM-V2.5-Qwen-14b. Это плотная модель семейства Qwen2, дообученная на базе Qwen/Qwen2.5-14B-Instruct; она содержит 14 млрд параметров и предназначена для генерации текста и диалогов. Карточка сообщает о результатах ручного сравнения с предыдущей версией и приводит оценки IFEval и BBH, но подробности метода дообучения и бенчмарков ограничены. Модель работает через Transformers, распространяется в формате safetensors и поддерживает контекст до 131 072 токенов. Метаданные указывают на интерфейс вызова инструментов, однако README не описывает его применение. Лицензия — Apache-2.0. Языки и специальные предметные области в карточке не обозначены.

Rose 20B GGUF — это квантизированная версия языковой модели Rose 20B, разработанной Tav и преобразованной в формат GGUF пользователем TheBloke. Модель предназначена для генерации текста и выполнения инструкций на английском языке, включая локальный запуск через llama.cpp и совместимые интерфейсы и библиотеки. Для работы используется шаблон запросов в стиле Alpaca. Модель построена на архитектуре LLaMA и содержит около 20 млрд параметров. Она относится к текстовым моделям и не поддерживает мультимодальные входные данные. Контекстный размер и точные характеристики исходной архитектуры в README не указаны. Доступны варианты GGUF с квантованием от 2 до 6 бит, а также 8-битный вариант, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации; при более сильном квантовании качество может снижаться. Файлы совместимы с llama.cpp и рядом сторонних приложений, включая text-generation-webui, KoboldCpp, LM Studio, Faraday.dev, ctransformers, llama-cpp-python и candle. Лицензия указана как Llama 2; условия распространения и использования следует уточнять в соответствующих лицензионных документах. В README не приведены результаты тестов производительности или качества.

RYS-XLarge — языковая модель автора dnhkng, построенная на архитектуре Qwen2. В README описан метод оптимизации, который анализирует функциональные роли слоёв трансформера и дублирует слои модели; автор называет этот подход self-merging. Модель основана на MaziyarPanahi/calme-2.1-qwen2-72b, дообученной от Qwen2-72B. По метаданным, это плотная модель с 76,7 млрд параметров, контекстом 32 768 токенов и весами в формате safetensors; доступен диалоговый режим. Модель предназначена для генерации текста и диалоговых сценариев. В README приведены результаты оценок на нескольких бенчмарках: улучшения от метода различаются по задачам, включая снижение результата на IFEval. Лицензия — MIT. Карточка не описывает языковой охват и не приводит подробных сведений о безопасности или рекомендуемых ограничениях применения.

Bielik-11B-v3.0-Instruct-GGUF — квантизированная версия инструкционной языковой модели Bielik-11B-v3.0-Instruct, разработанной командой speakleash. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp, LM Studio, KoboldCpp, Jan AI и другие совместимые инструменты. Модель содержит 11 миллиардов параметров и распространяется в формате GGUF с вариантами от BF16 до Q3 и IQ-квантизаций. Доступны файлы разного размера — примерно от 5 до 22 ГБ, что позволяет выбирать баланс между качеством, потреблением памяти и скоростью работы. Конкретные архитектура, поддерживаемые языки, размер контекстного окна и формат prompt не указаны в представленном README; для их уточнения требуется документация исходной модели. Сильной стороной является широкий выбор уровней квантизации: варианты Q5 и Q6 заявлены как высококачественные, а Q4 подходят для большинства сценариев и более ограниченных по памяти систем. Более компактные варианты позволяют запускать модель при меньшем объёме RAM, но могут снижать качество генерации. Лицензия в README не указана и должна быть проверена на странице исходной модели speakleash/Bielik-11B-v3.0-Instruct.

StrangeMerges_16-7B-slerp — объединённая языковая модель семейства Mistral, опубликованная Gille. Она создана методом SLERP с помощью LazyMergekit на основе Gille/StrangeMerges_15-7B-slerp и SanjiWatsuki/Kunoichi-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и принимает текст для генерации текста; заявленная длина контекста — до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев общего назначения. В README приведены результаты оценивания на Open LLM Leaderboard, включая ARC и HellaSwag, но эти показатели сами по себе не гарантируют качество на конкретных задачах. Модель распространяется под лицензией Apache-2.0.

StructuredThinker-v0.3-MoreStructure — объединённая разговорная языковая модель семейства Qwen2, созданная автором репозитория Ahdoot с помощью mergekit и метода DARE TIES. В качестве базовой модели использована Qwen/Qwen2.5-3B-Instruct; в объединение также вошли PowerInfer/SmallThinker-3B-Preview и prithivMLmods/QwQ-LCoT-3B-Instruct. Модель содержит 3,1 млрд параметров, работает с текстом и имеет контекстное окно 32 768 токенов. Модель предназначена для генерации текста и диалогов, в том числе для структурированных ответов. Метаданные отмечают интерфейс вызова инструментов, но README не описывает его поведение или качество. Модель доступна в формате safetensors для библиотеки Transformers. Лицензия в предоставленных данных не указана.

SuperNeuralDreadDevil-8b — объединённая авторегрессионная языковая модель от BoltMonkey на архитектуре Llama, созданная методом DARE-TIES из NeuralDaredevil-SuperNova-Lite-7B-DARETIES-abliterated и DreadMix. В конфигурации указан NousResearch/Meta-Llama-3.1-8B-Instruct как базовая модель; веса сохранены в формате bfloat16. Метаданные указывают 7,5 млрд параметров и контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогового общения. Её можно применять для ответов на вопросы, написания и продолжения текстов, а также для интерактивных сценариев на основе чата. Карточка не описывает конкретные языки или специализированные предметные области. Модель распространяется под лицензией, указанной в метаданных Hugging Face; в предоставленных метаданных она отсутствует.

MaziyarPanahi/T3qm7xNeuralsirkrishna_Experiment26Experiment30 — объединённая модель Mistral с плотной архитектурой и 7,1 млрд параметров, созданная на основе automerger/T3qm7xNeuralsirkrishna-7B и automerger/Experiment26Experiment30-7B. Она предназначена для генерации текста и диалоговых сценариев; принимает текст и может обрабатывать контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

Tara — модель автоматического распознавания речи, разработанная Trelis для транскрибации хинди и смешанной речи хинди–английский. Она построена на архитектуре Whisper large-v3 и поддерживает отдельный режим смешанного кода: английские слова записываются латиницей, а хинди — деванагари. По метаданным репозитория модель содержит 905,3 млн параметров; принимает аудио с частотой 16 кГц и выдаёт текст. В карточке заявлены также сильные результаты для английской речи и устойчивость к шуму, телефонным записям, спонтанной речи и различным акцентам. Модель предназначена для голосовых помощников, аналитики звонков, субтитров и конвейеров обработки речевых данных. Для максимальной точности нужно выбирать режим распознавания по языку записи; смешанный режим подходит и для чистого хинди. Оценка в карточке проведена на аудиофрагментах длительностью до 30 секунд, поэтому более длинные записи рекомендуется разбивать на части. Поддержка других индийских языков не заявлена. Лицензия — Apache 2.0.