II.10Разработка и эксплуатация AI/ML-систем

Это некорректированная версия MiniCPM5-2B, созданная 0xSojalSec методом abliteration на основе openbmb/MiniCPM5-2B. Модель предназначена для генерации текста и диалоговых сценариев; карточка также указывает поддержку вызова инструментов и применение на локальных и периферийных устройствах. Архитектура — плотная LlamaForCausalLM, размер — 2,2 млрд параметров, формат весов — Safetensors, длина контекста — до 131 072 токенов. В карточке отмечены английский и китайский языки. Abliteration меняет поведение модели в отношении отказов, но карточка не приводит оценок качества или подробностей метода. Лицензия — Apache 2.0.

openbmb/MiniCPM-V-4.6-Thinking-gguf — GGUF-квантизированная версия мультимодальной модели MiniCPM-V 4.6 Thinking, разработанной OpenBMB. Модель предназначена для эффективного понимания изображений и видео, включая сложное мультимодальное рассуждение, математические задачи и распознавание текста на изображениях (OCR). Она ориентирована на локальное использование, в том числе на мобильных устройствах и периферийных платформах iOS, Android и HarmonyOS. Модель использует архитектуру с визуальным энкодером SigLIP2-400M и языковой моделью Qwen3.5-0.8B, а также смешанное сжатие визуальных токенов 4x/16x. Thinking-вариант формирует явную цепочку рассуждений перед финальным ответом, что повышает качество на сложных задачах, но может увеличивать задержку и расход вычислительных ресурсов. Поддерживаются текстовые запросы совместно с изображениями и видео; сведения о полном перечне языков и размере контекста в карточке не указаны. К сильным сторонам относятся компактность, ориентация на устройства с ограниченными ресурсами, поддержка изображений и видео и улучшенное рассуждение на визуально сложных задачах. Ограничения включают зависимость производительности от используемого GGUF-квантизированного варианта и аппаратной конфигурации, а также возможные проблемы совместимости видеодекодера torchcodec с отдельными версиями CUDA. Репозиторий распространяется по лицензии Apache-2.0.

MiniMax-M2.5-MLX-8bit — это 8-битная квантованная версия языковой модели MiniMax-M2.5, разработанной компанией MiniMaxAI. Квантование выполнено командой LM Studio с использованием mlx_lm, а модель оптимизирована для работы на компьютерах Apple Silicon через MLX. Модель предназначена для генерации текста и других сценариев, поддерживаемых задачей text-generation, включая локальный запуск в совместимых средах. README не содержит подробностей о размере исходной модели, архитектуре, поддерживаемых языках, длине контекста или мультимодальных возможностях, поэтому эти характеристики нельзя достоверно указать. Ключевое преимущество модели — снижение требований к памяти по сравнению с полноразмерной версией благодаря 8-битному квантованию и оптимизации под Apple Silicon. Ограничения включают возможную потерю качества из-за квантования, зависимость от совместимого оборудования и программной среды, а также отсутствие в README сведений о результатах тестирования и производительности. Модель распространяется по лицензии modified-MIT; условия следует уточнять в указанном файле лицензии MiniMaxAI.

HifiHu/Ministral-3-14B-abliterated — модифицированная версия Ministral-3-14B-Instruct-2512 от Mistral, созданная с помощью abliteration: методом, который изменяет внутренние представления модели, чтобы ослабить поведение отказа. Это плотная модель семейства Mistral 3 примерно на 14 млрд параметров, распространяемая в формате SafeTensors с BF16 и рассчитанная на диалоговую генерацию текста. Метаданные также указывают интерфейс вызова инструментов; базовая модель мультимодальна, но карточка этой версии не подтверждает обработку изображений. Модель подходит для диалогов и ответов на широкий круг запросов, включая темы, на которые исходная instruct-модель могла бы отказать. Abliteration не гарантирует точность ответов и может снизить эффективность защитных ограничений. В карточке указан английский язык. Лицензия — Apache 2.0; автор позиционирует модель для исследований и обучения.

Ministral-3-14B-Reasoning-2512-Uncensored-GGUF — квантизированная GGUF-версия модели Ministral-3-14B-Reasoning-2512-Uncensored, разработанной ccharnkij и подготовленной к квантизации mradermacher. Модель предназначена для генерации текста и задач, требующих рассуждений; заявлена поддержка мультимодальных сценариев image-text-to-text, включая обработку изображений через дополнительный multimodal projector. Указан английский язык. Модель относится к семейству Ministral и имеет размер 14 млрд параметров. Доступны варианты квантизации от Q2_K до Q8_0, а также IQ4_XS, с размером файлов примерно от 5,3 до 14,5 ГБ; варианты Q4_K_S и Q4_K_M обозначены как быстрые и рекомендуемые, а Q8_0 — как обеспечивающий наилучшее качество среди представленных. README не содержит сведений о размере контекста, точной архитектуре, результатах тестирования или практических ограничениях качества. Это uncensored-модификация, поэтому поведение модели с точки зрения безопасности и отказов следует дополнительно проверять перед применением. Модель распространяется по лицензии Apache-2.0. Для мультимодального использования требуются отдельные файлы mmproj в форматах Q8_0 или F16. README не уточняет системные требования, совместимые приложения и подробные инструкции по применению.

MiquTotalMix-70B — объединённая языковая модель, созданная автором репозитория с помощью mergekit методом passthrough. В слияние вошли 152334H/miqu-1-70b-sf, sophosympatheia/Midnight-Miqu-70B-v1.0, alchemonaut/BoreanGale-70B и NeverSleep/MiquMaid-v1-70B. Модель построена на плотной архитектуре Llama с классом LlamaForCausalLM и содержит 68,7 млрд параметров; опубликована в формате safetensors для библиотеки Transformers. Модель предназначена для генерации текста и диалогов. README предлагает шаблоны запросов Alpaca и Mistral; в метаданных также заявлена возможность chat. Контекст составляет до 32 764 токенов. Базовая модель описана каталогом как ориентированная на английский язык; отдельные сведения о языках самого объединения в карточке не приведены. Для запуска требуется значительная память из-за размера модели. Лицензия в предоставленных данных не указана.

Herry443/Mistral-7B-KNUT-ref-en — англоязычная разговорная модель генерации текста на архитектуре Mistral, разработанная на основе mistralai/Mistral-7B-Instruct-v0.2. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста. В карточке указано использование примеров из Open-Platypus, Databricks Dolly 15k и Orca Math Word Problems 200k; это указывает на сценарии следования инструкциям и решения математических задач. Доступны веса в формате safetensors. Лицензия — CC BY 4.0.

Alignment-Lab-AI/Mistral-nemo-3b-unhealed — текстовая генеративная модель, созданная методом passthrough merge из ArliAI/Mistral-Nemo-12B-ArliAI-RPMax-v1.3 и mistralai/Mistral-Nemo-Base-2407. Репозиторий содержит веса Safetensors и использует архитектуру MistralForCausalLM; размер по метаданным — 5 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия. Её контекстное окно составляет 131 072 токена. В конфигурации сливаются выбранные диапазоны слоёв двух моделей; README не описывает отдельные специализированные задачи или языки.

korvo/MS-RandomMergeTest_v2-TIES-22B — объединённая модель для генерации текста, созданная автором репозитория с помощью mergekit. В основе объединения лежит concedo/Beepo-22B; также использованы nbeerbower/Mistral-Small-Gutenberg-Doppel-22B, anthracite-org/magnum-v4-22b, crestf411/MS-sunfall-v0.7.0 и TheDrummer/Cydonia-22B-v1.1. В README указан метод della_linear, а метаданные описывают архитектуру как плотную MistralForCausalLM размером 22 млрд параметров. Модель предназначена для генерации связного текста и диалогового применения. Она принимает текст и выдаёт текст, работает с контекстом до 32 768 токенов; базовая модель описана в каталоге как англоязычная диалоговая модель для следования инструкциям и создания прозы. Репозиторий содержит веса в формате safetensors и имеет интерфейс для вызова инструментов. Лицензия в предоставленных данных не указана.

RedHatAI/Muse-Glimmer-30B-INT4 — мультимодальная условно-генерирующая модель, разработанная RedHatAI на основе meta-models/Muse-Glimmer-30B. Она принимает текст и изображения, а генерирует текст, поэтому предназначена для задач визуально-текстового анализа, диалога и других сценариев мультимодального вывода. Архитектура указана как MuseGlimmerForConditionalGeneration; точные сведения о языках и размере контекста в карточке не приведены. Модель оптимизирована для инференса с помощью vLLM. Веса линейных операторов внутри transformer-блоков квантизированы в INT4 по схеме W4A16 GPTQ, тогда как активации сохраняют исходную точность; vision-компоненты, lm_head и embedding-слои не квантизировались. Это уменьшает число бит на параметр с 16 до 4, а размер на диске и требования к GPU-памяти — примерно на 75%, что является основным преимуществом при развертывании. К ограничениям относятся возможное снижение качества из-за квантизации и зависимость от совместимой инфраструктуры vLLM и формата compressed-tensors. Доступны средства автоматического выбора инструментов и разбора рассуждений в vLLM, однако фактические возможности и качество базовой модели отдельно не описаны. Модель выпущена 11 августа 2026 года, версия 1.0, и распространяется по лицензии Apache-2.0.

NeuralExperiment-7b-dare-ties — модель генерации текста на базе архитектуры Mistral, созданная Kukedlc методом слияния DARE-TIES через LazyMergekit. Она объединяет NeuralMaxime-7B-slerp, NeuralGlitch-Yam-Peleg-7B-DT и Neural4gsm8k; в конфигурации также указан mistralai/Mistral-7B-v0.1. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и может применяться для диалоговых ответов, рассуждений и решения математических задач. В репозитории опубликованы веса Safetensors, а лицензия — Apache 2.0. Карточка не описывает отдельные языковые возможности и оценки качества.

Neuralmistral — слитая модель генерации текста на архитектуре Mistral, созданная Kiruthikarthi с помощью LazyMergekit. Она объединяет OpenPipe/mistral-ft-optimized-1218 и mlabonne/NeuralHermes-2.5-Mistral-7B методом slerp; конфигурация смешивает веса слоёв self-attention и MLP. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста по текстовому запросу, например для диалоговых ответов и создания текста. Карточка не сообщает отдельных результатов оценки, целевых языков или специальных прикладных областей. Лицензия в предоставленных данных не указана.

sentence-transformers/nli-bert-base-cls-pooling — модель Sentence Transformers, разработанная командой sentence-transformers. Она построена на BERT и преобразует предложения и абзацы в плотные векторы размерностью 768 для поиска семантически близких текстов, кластеризации и других задач сравнения предложений. Модель содержит 136,7 млн параметров, принимает текст с контекстом до 512 токенов и доступна в форматах PyTorch, Safetensors, ONNX и OpenVINO. Модель устарела: авторы предупреждают, что она создаёт низкокачественные эмбеддинги, и рекомендуют выбрать более новые модели из каталога SBERT.net. Лицензия — Apache-2.0.

Это конверсия языковой модели NVIDIA Nemotron-3.5-Lightning-30B-A3B-BF16 в формат GGUF, опубликованная ijohn07 для запуска через llama.cpp. Модель предназначена для генерации текста и может использоваться в диалоговых и других сценариях работы с языковой моделью; подробности о её возможностях приведены в карточке базовой модели NVIDIA. В метаданных указаны английский, испанский, французский, немецкий, итальянский и японский языки. Репозиторий обозначает формат как GGUF BF16; название репозитория также содержит Q2_K, однако README описывает конверсию, а сведения не позволяют подтвердить отдельную квантизацию. Лицензия базовой модели обозначена как other. Для запуска описан llama.cpp.

Это конвертированная в формат GGUF копия NVIDIA Nemotron 3.5 Lightning 30B A3B BF16, подготовленная ijohn07 с помощью llama.cpp и GGUF-my-repo. Модель предназначена для генерации текста и может запускаться через llama.cpp, в том числе в режиме сервера или командной строки. По метаданным, исходная модель NVIDIA связана с наборами данных Nemotron для предварительного обучения и постобучения и поддерживает английский, испанский, французский, немецкий, итальянский и японский языки. Для характеристик и сценариев исходной модели автор карточки рекомендует обратиться к её оригинальному описанию. В доступных данных указаны формат GGUF BF16 и лицензия «other»; условия лицензии следует сверить с карточкой базовой модели.

PiVoT-0.1-early-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral-7B-Instruct-v0.2 и PiVoT-0.1-early методом SLERP. Это плотная модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров, предназначенная для генерации текста и ответов на инструкции в диалоговом формате. Контекст составляет до 32 768 токенов. Модель может применяться для ведения диалога и генерации ответов на текстовые запросы. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Карточка описывает конфигурацию слияния, но не приводит отдельные оценки качества или подробные ограничения для получившейся модели.

Progenitor-V1.1-LLaMa-70B — экспериментальная модель генерации текста, созданная Tarek07 путём объединения нескольких предварительно обученных моделей Llama. Для слияния использован mergekit с методом Della Linear и базой nbeerbower/Llama-3.1-Nemotron-lorablated-70B; также включены EVA-LLaMA-3.33-70B-v0.1, L3.1-70B-Hanami-x1, 70B-L3.3-Cirrus-x1, Anubis-70B-v1 и Negative_LLAMA_70B. Модель содержит 69,5 млрд параметров, использует архитектуру Llama для авторегрессионной генерации текста и поддерживает контекст до 131 072 токенов. Она предназначена для диалога и свободной генерации текста; в метаданных также отмечен интерфейс вызова инструментов. Карточка описывает её как личный эксперимент по объединению понравившихся автору моделей и сообщает, что результаты ему понравились, но не приводит количественных оценок качества. Лицензия — Llama 3.3. Ограничения и условия коммерческого использования следует сверять с её условиями; конкретные оценки качества и подробные рекомендации по применению в карточке не приведены.

Репозиторий MarsupialAI содержит сборку модели Qwen1.5-32B-Chat в формате GGUF с квантованиями iMatrix. Файлы созданы с использованием groups_merged.txt от Kalomaze; также включена версия GGUF в FP16, разбитая на части из-за ограничения размера файлов. Модель предназначена для диалоговой генерации текста и может использоваться в чат-приложениях, поддерживающих GGUF. Репозиторий распространяет конвертированные файлы базовой модели Qwen1.5-32B-Chat, а не описывает отдельное дообучение. В метаданных указана лицензия other; дополнительных условий лицензии в карточке нет.

inferencerlabs/Qwen3.8-Flash-Next-MLX-Q4i — квантизированная сборка модели Qwen3.8-Flash-Next на базе MLX, подготовленная inferencerlabs для запуска на устройствах Apple Silicon. README не указывает исходного разработчика базовой модели и не раскрывает её архитектуру, количество параметров или точные размеры контекстного окна. Модель предназначена для мультимодального инференса в сценариях, где требуется обработка текста и изображений, включая работу через Inferencer app. В метаданных указана задача image-text-to-text. Сборка использует формат Q4-INF, оптимизированный для сохранения общей точности при ограничении памяти около 128 GiB. На M5 Max заявлена скорость около 57,5 токена в секунду при использовании примерно 98,7 GiB памяти. К сильным сторонам относятся мультимодальность, адаптация к MLX и повышенная эффективность по памяти по сравнению с полной версией модели. Ограничения включают высокие требования к оперативной памяти, зависимость от совместимого оборудования и программной среды, а также возможное снижение точности из-за квантизации. Указанные в README метрики относятся к конвертации GLM 5.1, поэтому их нельзя напрямую считать оценкой этой модели. Язык модели, точное число поддерживаемых языков и лицензия в README не указаны.

Qwen3.8-Flash-Next-Uncensored-MLX-Serve-mixed-4-8bit — это проверенная копия весов Qwen3.8-Flash-Next-Uncensored, созданная на основе модели Qwen/Qwen3.8-Flash-Next. Репозиторий поддерживается yomie4343 и содержит локальные изменения и проверки для специализированного движка mlx-serve; модель не переобучалась и не является новой схемой квантизации. Исходные веса происходят от orcarouter, а сам пакет байт-в-байт совпадает с существующим пакетом ARC4NUM. Модель предназначена для локального инференса на устройствах Apple Silicon через пропатченный mlx-serve. Она ориентирована на генерацию текста, а исходные vision-веса сохранены, поэтому заявлена мультимодальная поддержка, однако пакет нельзя считать универсальным checkpoint для Transformers, mlx-lm или mlx-vlm. Архитектура использует маршрутизируемые MoE-эксперты, MTP-компонент и N-gram-таблицу. Вариант применяет смешанную точность: MoE-эксперты, токеновые embeddings и MTP head квантизованы в 4-bit, остальные подходящие проекции — в 8-bit; используется group size 64, а для N-gram-таблицы — 32. Размер пакета составляет около 107 ГБ, требуется отдельный файл ngram_table.bin и быстрый SSD. Основное преимущество — ориентированный на качество компромисс между размером и точностью при локальном запуске, а также наличие подготовленного runtime-патча и проверок на Mac Studio M3 Ultra с 96 ГБ unified memory. Ограничения включают высокие требования к памяти и хранилищу, зависимость от конкретной версии пропатченного mlx-serve и отсутствие гарантии одинаковой производительности или качества на другом оборудовании, контексте и рабочих нагрузках. В README приведена консервативная конфигурация с контекстом 32768 токенов, но это параметр запуска, а не обязательно максимальный контекст модели. Лицензия указана как qwen-community-1.0; подробные условия находятся в файле LICENSE.

Это экспериментальная производная модель Qwen3.6-35B-A3B с разреженной маршрутизацией экспертов. Она предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. В README указано, что средняя точность хранения маршрутизируемых экспертов составляет 2,022 бита, а остальные веса — BF16; веса хранятся в BF16-тензорах после деквантизации и загружаются через стандартные Transformers или vLLM. Модель основана на Qwen/Qwen3.6-35B-A3B и следует его лицензии. README помечает её как внутренний исследовательский чекпойнт. Сведения о поддерживаемых языках и длине контекста в предоставленных источниках отсутствуют.

Qwen3-VL-8B-Heretic-1.3.0 — экспериментальная аблитерированная версия Qwen3-VL-8B-Instruct, созданная сообществом с использованием Heretic v1.3.0 и опубликованная для интеграции с ComfyUI. Модель предназначена для генерации текста и работы с изображениями и текстом в формате vision-language, а также для использования в ComfyUI и Transformers. Поддерживаются английский и китайский языки. Модель не поддерживает специальные токены для режима рассуждений. Архитектура — Qwen3VLForConditionalGeneration, около 8 млрд параметров, точность bf16 и контекст до 8192 токенов. По данным README, аблитерация существенно снизила частоту отказов при сохранении большинства исходных возможностей: изменено 53 из 398 тензоров, а среднее изменение на восьми тестах составило менее 1%. При этом наблюдается заметное снижение результата TruthfulQA, а уменьшение защитных ограничений может повысить риск генерации вредного или недостоверного содержания. Полная версия Hugging Face и форматы safetensors для ComfyUI сохраняют поддержку зрения. Варианты GGUF лишены vision encoder и предназначены только для использования как текстовый энкодер в рабочих процессах ComfyUI-GGUF, а не как самостоятельная vision-language модель. Доступны варианты bf16, FP8, NVFP4 и различные уровни GGUF-квантизации. Лицензия — Apache-2.0.

Qwen-AgentWorld-35B-A3B-GGUF — мультимодальная vision-language model для понимания изображений и текста, основанная на Qwen-AgentWorld-35B-A3B. Исходную модель разработала команда Qwen, а представленные GGUF-квантизации подготовлены пользователем или организацией Dhptl с помощью quant-kit 24 июня 2026 года. Модель ориентирована на агентские сценарии, симуляцию окружения, анализ изображений, диалоговое взаимодействие и генерацию текста. Архитектура состоит из текстовой основы и отдельного vision encoder в формате mmproj. Доступны варианты квантизации от Q2_K до Q8_0; рекомендуемым считается Q4_K_M как компромисс между качеством и требованиями к памяти. Для работы с изображениями обязательно нужны два файла: GGUF-файл текстовой основы и mmproj-файл vision encoder в формате F16. Поддерживаются текстовая и визуальная модальности, заявлен английский язык. Размер исходной модели обозначен как 35B-A3B, однако README не указывает контекстное окно. Сильной стороной модели является локальный запуск через llama.cpp, LM Studio, Jan, Ollama и совместимые инструменты, а также возможность обработки изображений. Качество и требования к памяти зависят от выбранной квантизации: более компактные варианты заметно теряют в качестве, тогда как Q6_K и Q8_0 требуют значительно больше оперативной памяти. Для визуального ввода необходим отдельный vision encoder, а README не содержит подробных результатов бенчмарков или ограничений по применению. Модель распространяется по лицензии Apache-2.0.

Модель leobobo/qwen_finetune_16bit_pipeline — дообученная языковая модель семейства Qwen3, разработанная leobobo на базе unsloth/qwen3-8b-unsloth-bnb-4bit. Это плотная авторегрессионная модель с 7,6 млрд параметров для генерации текста и диалогового взаимодействия; метаданные также указывают интерфейс вызова инструментов. Нативная длина контекста — 40 960 токенов. При обучении использовались Unsloth и библиотека TRL от Hugging Face. Модель подходит для генерации ответов и ведения диалогов на английском языке, а также для сценариев, где приложению нужно передавать запросы инструментам через соответствующий интерфейс. В карточке указана лицензия Apache-2.0. Данных о специализированных областях применения и результатах оценки качества нет.

Модель popfido/Qwythos-9B-Claude-Mythos-5-1M-BF16-MLX-MTP-Visual — конвертированная в формат MLX версия мультимодальной модели Qwythos-9B-Claude-Mythos-5-1M от empero-ai. Она основана на Qwen3.5-9B с гибридной архитектурой GatedDeltaNet и attention; содержит MTP-голову для предсказания нескольких токенов и башню зрения для анализа изображений. Веса представлены в float16 и рассчитаны на запуск через MLX на Apple Silicon. Модель предназначена для диалогов, генерации и анализа текста, ответов на вопросы об изображениях и описания изображений. В README указано, что текстовый тракт проверяли послойным сравнением с llama.cpp, а генерацию и работу зрения — сравнением с соответствующими реализациями. Для длинного контекста используется YaRN с коэффициентом 4 и исходным контекстом 262144 токена. Репозиторий распространяется по лицензии Apache-2.0. Это конверсия производной модели, а README описывает преобразование весов из GGUF BF16 в float16 MLX; метаданные связывают её с дообученной моделью empero-ai/Qwythos-9B-Claude-Mythos-5-1M. MLX-веса в float16 требуют больше памяти, чем варианты Q8 и 4-bit; стандартный mlx-lm может автоматически удалять MTP-голову.

JetLM/SDAR-1.7B-Chat — диалоговая языковая модель семейства SDAR, разработанная авторами проекта SDAR. Она объединяет авторегрессионное обучение с дискретным диффузионным моделированием: авторегрессионный подход используется при обучении, а диффузионный позволяет генерировать токены параллельно. Модель предназначена для генерации ответов в чате и других задач продолжения текста; в метаданных также отмечен интерфейс вызова инструментов. Модель содержит 1,7 млрд параметров, использует плотную архитектуру SDARForCausalLM и поддерживает контекст до 32 768 токенов. Карточка описывает результаты семейства SDAR как сопоставимые с сильными авторегрессионными моделями общего назначения, а также сообщает о преимуществах в научных задачах для отдельных моделей семейства; эти утверждения не выделяют результаты именно версии 1.7B-Chat. Репозиторий содержит веса safetensors. Лицензия — Apache-2.0. Карточка не приводит сведений о поддерживаемых естественных языках или ограничениях применения.

sfm_unfiltered_midtrain_alignment-7k_8k_9k_10k_11k_simpleavg_merge — языковая модель, опубликованная пользователем yuhengtu. Это линейное слияние пяти предобученных чекпойнтов на шагах 7000, 8000, 9000, 10000 и 11000, выполненное с помощью mergekit; базой слияния указан чекпойнт global_step11000. Модель использует плотную архитектуру GPT-NeoX и содержит 8,8 млрд параметров. Модель предназначена для генерации текста и диалоговых сценариев. Она принимает текст и выдаёт текст; заявленный контекст составляет 16 384 токена. Карточка не сообщает языковую специализацию или прикладную область, поэтому модель следует считать общего назначения. Репозиторий содержит веса в формате safetensors. Сведения о лицензии в предоставленных данных отсутствуют.

Модель yuhengtu-bytedance/sfm_unfiltered_midtrain_alignment-9k_10k_11k_weightedavg_merge — объединение предварительно обученных языковых моделей, созданное с помощью mergekit. В README указано, что применён линейный метод слияния; базой служит чекпойнт global_step11000, а в объединение также вошли global_step10000 и global_step9000 из того же набора чекпойнтов. Это плотная авторегрессионная модель семейства GPT-NeoX с 8,8 млрд параметров, рассчитанная на генерацию текста и диалоговое применение. Нативная длина контекста составляет 16 384 токена; модель работает через Transformers и распространяется в формате safetensors. Карточка не сообщает о специализированной предметной области или конкретных ограничениях качества. Условия лицензирования в предоставленных данных не описаны.

ShadowYamshadow_Experiment27Yam — объединённая языковая модель, созданная из automerger/ShadowYamshadow-7B и automerger/Experiment27Yam-7B. Модель разработана на архитектуре Mistral и содержит 7,1 млрд параметров; она предназначена для генерации текста и принимает запросы с контекстом до 32 768 токенов. Модель подходит для генерации продолжений текста и ответов на запросы. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache 2.0. Карточка не описывает специальные области применения, языки или известные ограничения качества.

SillyTilly-Meta-Llama-3.1-8B-GGUF — набор квантованных файлов модели SillyTilly/Meta-Llama-3.1-8B, подготовленный командой featherless-ai-quants. Модель предназначена для генерации текста и может использоваться в сценариях локального или совместимого с GGUF запуска, где требуется сократить потребление памяти и вычислительных ресурсов за счёт квантования. README не уточняет конкретные прикладные задачи, языки и поддерживаемые модальности, поэтому модель следует рассматривать как текстовую. Доступны варианты квантования IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0. Размер файлов составляет примерно от 3,03 до 8,15 ГБ, что позволяет выбирать компромисс между качеством и требованиями к памяти. Архитектура, точное число параметров, размер контекстного окна и дополнительные характеристики в README не указаны. Преимущество набора — широкий выбор уровней квантования и формат GGUF, однако более сильное квантование обычно связано с потенциальной потерей качества по сравнению с исходной моделью; конкретные показатели в README не приведены. Лицензия для этого набора и базовой модели не указана, поэтому условия использования необходимо уточнить в соответствующих материалах правообладателей.