II.1Анализ требований и архитектура ПО

AlphaMonarch-laser — экспериментальная диалоговая языковая модель, созданная автором карточки дообучением mlabonne/NeuralMonarch-7B методом DPO. Она основана на плотной архитектуре Mistral и содержит 7,1 млрд параметров. Модель обучалась 1080 шагов на части проекций с использованием предпочтений из набора argilla/OpenHermes2.5-dpo-binarized-alpha и техники LaserQLoRA. Модель предназначена для генерации текста в формате диалога, следования инструкциям и ответов на вопросы, в том числе задач на рассуждение. Заявлена поддержка контекста до 32 768 токенов и английского языка. В README приведены результаты нескольких тестов и заявлено первое место на YALL, однако независимое подтверждение этих показателей в предоставленных данных отсутствует. Доступны веса в формате safetensors; лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое использование ограничено условиями лицензии.

Это набор GGUF-квантизованных версий модели AXCXEPT/Llama-3.1-8B-EZO-1.1-it, подготовленный организацией featherless-ai-quants. Модель предназначена для генерации текста и может использоваться в сценариях локального или совместимого с GGUF запуска, включая диалоговые приложения и другие задачи текстовой генерации. README не содержит подробного описания исходной модели, её обучения или разработчика AXCXEPT/Llama-3.1-8B-EZO-1.1-it. Модель относится к семейству Llama 3.1 и имеет 8 миллиардов параметров. Доступны варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0; их размеры варьируются примерно от 3 до 8 ГБ. Квантизация позволяет выбирать компромисс между требованиями к памяти и сохранением качества, однако конкретные характеристики производительности и качества в README не указаны. Данные о поддерживаемых языках, размере контекста, модальностях и архитектурных деталях отсутствуют. Лицензия также не указана.

BananaMind-1.0-Instruct-i1-GGUF — это GGUF-квантизированная версия модели BananaMind-1.0-Instruct, разработанная BananaMind и преобразованная в квантизированные файлы пользователем mradermacher. Модель предназначена для генерации текста и выполнения инструкций в сценариях, совместимых с causal language modeling, включая диалоговые и прикладные задачи на основе текстовых запросов. В метаданных указаны архитектурные семейства GPT-2 и GPT-2-XL, однако точный размер модели и максимальная длина контекста не приведены. Поддерживается английский язык. Доступны многочисленные варианты GGUF-квантизации с размерами примерно от 0,9 до 1,6 ГБ, включая IQ- и Q-серии; варианты различаются компромиссом между размером, скоростью и качеством. Для создания собственных квантизированных версий предоставляется imatrix-файл. Ограничения включают возможное снижение качества у наиболее агрессивных вариантов квантизации и отсутствие данных о результатах тестирования, мультимодальности, точном контексте и других языках. Модель распространяется по лицензии Apache-2.0.

MaziyarPanahi/Calme-7B-Instruct-v0.9-GGUF — набор файлов модели в формате GGUF для Calme-7B-Instruct-v0.9, разработанной и квантизированной MaziyarPanahi. Модель предназначена для генерации текста и использования в инструкционно-ориентированных сценариях, включая локальные чат-интерфейсы и серверы инференса, совместимые с GGUF. Модель относится к семейству 7B и базируется на архитектуре Mistral, однако подробности об архитектуре, объёме контекста, языках и исходных данных в README не указаны. Доступны варианты квантизации от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать между размером файлов, требованиями к ресурсам и сохранением качества. Формат поддерживается, в частности, llama.cpp, text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Сильной стороной является возможность локального запуска на широком спектре платформ и гибкий выбор степени квантизации. Ограничения модели и результаты benchmark-тестов в README не приведены, поэтому качество, производительность и пригодность для конкретных задач требуют самостоятельной проверки. Модель распространяется по лицензии Apache-2.0.

CAMEL-33B-Combined-Data — диалоговая большая языковая модель, разработанная командой CAMEL-AI и полученная дообучением LLaMA-33B. Модель содержит 32,3 млрд параметров, использует плотную архитектуру LLaMA и доступна в формате PyTorch; её контекст составляет 2048 токенов. Модель предназначена для генерации ответов в диалоге и выполнения инструкций. При дообучении использовали 229 тысяч диалогов, собранных фреймворком CAMEL, 100 тысяч англоязычных диалогов ShareGPT и 52 тысячи инструкций Alpaca. Для общения применяется шаблон FastChat Vicuna-13B-1.1. В карточке приведены результаты офлайн-оценки, включая средний балл 50,79 в таблице Open LLM Leaderboard. Модель ориентирована на англоязычные диалоги. Лицензия CC BY-NC 4.0 разрешает использование только на некоммерческих условиях. Результаты оценки не гарантируют качество в конкретных приложениях; контекст ограничен 2048 токенами.

CaPlatTessDolXaBoros Yi 34B 200K DARE Ties Highdensity — это языковая модель для генерации текста на базе архитектуры Yi с 34 миллиардами параметров. Исходную модель разработал brucethemoose, а представленный репозиторий подготовил TheBloke в формате GGUF. В карточке указано, что модель предназначена для текстовой генерации и ориентирована на английский язык. Модель доступна в квантованных вариантах GGUF с разной разрядностью, включая 2-, 3-, 4-, 5-, 6- и 8-битные версии. Это позволяет запускать её с использованием CPU и GPU через llama.cpp и совместимые приложения, библиотеки и пользовательские интерфейсы. Для работы заявлен шаблон запросов Orca-Vicuna с секциями SYSTEM, USER и ASSISTANT. К сильным сторонам относятся большой размер модели, поддержка различных уровней квантования и возможность локального запуска на широком наборе программных платформ. К ограничениям относятся отсутствие в README результатов тестирования, подробных сведений о качестве, мультимодальности и фактическом размере контекста; заявлен только английский язык. Квантование уменьшает требования к памяти, но может снижать точность по сравнению с исходной моделью. Лицензия указана как yi-license; применяются условия лицензии Yi, приведённой в карточке.

Это GGUF-конверсия модели Chroma Context-1, опубликованная пользователем ryancook. Исходная модель разработана Chroma и распространяется в формате PyTorch/safetensors; данная версия представляет те же веса в формате GGUF для запуска через llama.cpp и совместимые среды, включая LM Studio, Ollama при подходящем импорте и локальные серверы. Модель относится к семейству gpt-oss MoE и связана с базовой моделью OpenAI gpt-oss-20b. Модель предназначена для генерации текста и локального инференса на совместимом оборудовании. Доступны варианты квантования с разным соотношением качества, размера и требований к памяти, включая Q4_K_M, Q5_K_M, MXFP4_MOE, Q4_0, Q5_0, BF16 и другие пресеты, если они опубликованы в репозитории. Архитектура MoE активирует только часть экспертов для каждого токена, однако фактические требования к RAM и VRAM зависят от выбранного файла, длины контекста и конфигурации запуска. Исходная модель поддерживает очень длинный контекст, но практический предел определяется размером KV-кэша и доступной памятью. В README указан английский язык; сведения о других модальностях и языках отсутствуют. Сильными сторонами являются возможность локального запуска, широкий выбор квантованных вариантов и совместимость с экосистемой llama.cpp. Ограничения включают зависимость от поддержки конкретного GGUF-пресета и аппаратной конфигурации, а также возможное снижение качества у низкобитных и экспериментальных квантований. Это общественная конверсия, не аффилированная с Chroma; для оценки поведения, безопасности и целевого применения следует обращаться к официальной карточке исходной модели. Распространение осуществляется по лицензии Apache 2.0 с требованием сохранять атрибуцию исходной модели chromadb/context-1.

Это GGUF-квантизированная версия инструкционной модели LlamaThink-8B-instruct, разработанной DavidBrowne17 и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через LM Studio, llama.cpp и другие совместимые проекты на базе llama.cpp. В README также приведён специальный шаблон prompt с системными и пользовательскими сообщениями. Модель имеет размер 8B параметров; конкретная архитектура, поддерживаемые языки, модальности и размер контекстного окна не указаны. Доступны варианты квантования от Q8_0 до Q2_K_L, с размером файлов примерно от 3,69 до 8,54 ГБ. Более высокие варианты квантования обеспечивают лучшее качество, тогда как менее точные требуют меньше оперативной памяти; рекомендуемым вариантом общего назначения назван Q4_K_M, а Q6_K и Q6_K_L характеризуются как варианты очень высокого качества. Основное преимущество этой версии — возможность локального запуска при выборе подходящего уровня квантования и аппаратных ресурсов. Ограничения связаны с потерями качества на низких уровнях квантования, а также с отсутствием в предоставленных данных подробных сведений о результатах оценки, языках и фактических возможностях модели. Лицензия — Apache-2.0.

DeepSeek-V4.1-Flash-REAP25-MLX-mixed-4_8bit — это модифицированная и квантованная сборка DeepSeek-V4.1-Flash для MLX и компьютеров Apple Silicon, разработанная PipeNetwork на основе модели DeepSeek AI. Она предназначена для текстовой генерации и запуска локального вывода через специальный MLX-порт, поскольку стандартные transformers, mlx-lm и mlx-vlm эту архитектуру не поддерживают. Визионная башня и aligner сохранены, но текущий runtime работает только с текстом. Модель содержит около 754,6 млрд параметров и использует архитектуру mixture-of-experts: 40 слоёв, по 384 маршрутизируемых эксперта в каждом, из которых после REAP-прунинга сохранено 288. Также применяются MLA с совместным использованием KV-cache между слоями, двухслойный hashed n-gram engram объёмом около 196,6 млрд параметров, hyper-connections и attention sinks. Эксперты квантизированы до 4 бит, attention, shared experts и engram — до 8 бит; часть компонентов оставлена без квантизации. Размер файлов составляет около 351,1 ГБ, для запуска требуется примерно 384 ГБ оперативной памяти. Сборка сохраняет связную генерацию и демонстрирует perplexity 2,9777 на тесте wikitext-2; по сравнению с непруненной версией ухудшение perplexity составляет около 2,81%. К ограничениям относятся значительные требования к памяти, зависимость от отдельного MLX-порта, отсутствие мультимодального вывода в текущем runtime и исключение трёх слоёв multi-token prediction. Модель распространяется по лицензии MIT; порт также доступен в отдельном репозитории PipeNetwork.

KnutJaegersberg/Deita-1_8B — языковая модель семейства Llama для генерации текста и выполнения инструкций в формате диалога с ассистентом. В карточке приведён пример запроса о дообучении языковой модели и указаны результаты оценки на Open LLM Leaderboard. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 1,5 млрд параметров и поддерживает контекст до 8192 токенов. Для распространения используются веса Safetensors. В README указано, что действует лицензия для некоммерческого использования.

DeltaP2S-Gemma2-9B-SameFormula-Code-S13 — объединённый чекпойнт на базе google/gemma-2-9b, созданный с помощью экспериментального пакета Delta-P2S с учётом семейства моделей. Это плотная авторегрессионная языковая модель Gemma 2 с 9 млрд параметров, предназначенная для генерации текста; контекстное окно составляет 8192 токена. В названии указано назначение для кода, однако README не описывает конкретные возможности или результаты в задачах программирования. Модель загружена в формате safetensors и использует библиотеку Transformers. Условия лицензии в доступных данных не приведены.

Devstral-Small-2507-MLX-6bit — это общественная версия модели Devstral-Small-2507, разработанной Mistral AI. Квантование в формате MLX выполнено командой LM Studio с использованием mlx_lm. Модель предназначена для генерации текста и локального запуска на устройствах Apple Silicon. Модель представлена в 6-битном квантованном формате, что снижает требования к памяти по сравнению с полноразмерной версией и делает её более подходящей для локального использования. В карточке заявлена поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского и ряда других языков. Архитектура, количество параметров, размер контекста и точные специализированные возможности в README не указаны. К сильным сторонам относятся оптимизация под экосистему Apple Silicon и удобство локального текстового вывода. К ограничениям относятся возможная потеря качества из-за 6-битного квантования, зависимость производительности от конкретного устройства и отсутствие в предоставленных данных подробных характеристик, результатов тестирования и гарантий точности. Модель распространяется по лицензии Apache-2.0.

argilla/distilabeled-Marcoro14-7B-slerp-full — языковая модель, созданная Argilla как DPO-дообучение модели mlabonne/Marcoro14-7B-slerp на наборе предпочтений argilla/distilabel-intel-orca-dpo-pairs. В отличие от варианта distilabeled-Marcoro14-7B-slerp, эта версия прошла полный цикл по датасету, а не 200 шагов обучения. Модель предназначена для генерации текста и диалоговых ответов. Это плотная причинная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; карточка указывает английский язык. В README приведены результаты нескольких бенчмарков, однако они не гарантируют качество на конкретных пользовательских задачах. Модель распространяется в формате safetensors по лицензии Apache-2.0. Для запуска требуются ресурсы, соответствующие модели такого размера; карточка не описывает специальные ограничения безопасности или целевые прикладные области.

DNA-R1-GGUF — это набор квантованных моделей в формате GGUF, созданный bartowski на основе модели dnotitia/DNA-R1. Модель предназначена для генерации текста, диалогов, чат-сценариев и задач, требующих рассуждений. Указана поддержка английского и корейского языков, однако сведения о точной архитектуре, количестве параметров и размере контекста в представленном README отсутствуют. Квантизация выполнена с использованием llama.cpp и метода imatrix; доступны варианты от Q8_0 до Q2_K и IQ-квантов с размером файлов примерно от 5 до 15,6 ГБ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, тогда как компактные варианты требуют меньше оперативной памяти, но могут заметно уступать по качеству. Модель можно запускать через LM Studio, llama.cpp и другие совместимые проекты на базе llama.cpp. Для корректного общения рекомендуется указанный в README шаблон prompt format. Распространение осуществляется по лицензии CC BY-NC-4.0, поэтому коммерческое использование может быть ограничено условиями лицензии. README не содержит подробных результатов тестирования, ограничений по аппаратному обеспечению или данных о мультимодальности; по имеющейся информации модель является текстовой.

Dumpling-Qwen2.5-1.5B — диалоговая языковая модель на архитектуре Qwen2 с 1,5 млрд параметров, созданная nbeerbower дообучением nbeerbower/EVA-abliterated-TIES-Qwen2.5-1.5B. Модель предназначена для генерации текста и диалоговых ответов; метаданные также указывают интерфейс вызова инструментов. Контекстное окно составляет до 131 072 токенов. Модель дообучена методом QLoRA ORPO в течение двух эпох на наборах DPO, охватывающих диалоги, рассуждения, художественные тексты и другие предпочтения ответов. Доступна в формате safetensors через Transformers. Лицензия — Apache-2.0. Карточка не сообщает результаты оценивания качества и не описывает отдельно поддерживаемые естественные языки.

Efficient-DLM-4B — базовая диффузионная языковая модель NVIDIA для параллельной генерации текста. Модель преобразована из предварительно обученной авторегрессионной языковой модели с помощью продолжительного предобучения; в карточке указана архитектура семейства Qwen3 и около 3,7 млрд параметров. Для работы используется библиотека Transformers, веса опубликованы в формате safetensors. Модель предназначена для генерации текста и диалогового взаимодействия. Блочное внимание с условием на чистый контекст поддерживает декодирование с использованием KV-кэша, а позиционно-зависимое маскирование токенов призвано уменьшить расхождение между обучением и генерацией. Автор заявляет о более быстром декодировании при сохранении точности сильных авторегрессионных моделей. Контекст составляет 32 768 токенов. Лицензия указана как other, поэтому конкретные условия использования следует проверять в карточке модели NVIDIA.

Endurance-100B-v1 — плотная языковая модель семейства Mistral на 100,1 млрд параметров, дообученная TheDrummer на основе TheDrummer/Lazarus-2407-100B. Модель предназначена для генерации текста и диалогов; карточка отмечает дополнительное обучение на инструкциях и ролевых сценариях, а также поддержку шаблона чата Metharme. Метаданные указывают контекст до 131 072 токенов и интерфейс для вызова инструментов. Модель подходит для ролевых диалогов, творческого письма и ответов на инструкции. В README автор характеризует варианты квантования как пригодные для запуска при меньшем объёме памяти, однако опубликованный репозиторий указан в формате safetensors. Точная лицензия в предоставленных данных не приведена.

EuroLLM-9B — базовая многоязычная языковая модель с 9 млрд параметров, разработанная Unbabel, Instituto Superior Técnico, Instituto de Telecomunicações и партнёрами из университетов и исследовательских организаций. Проект финансировался Европейским союзом. Модель предназначена для генерации текста и понимания языков ЕС, а также ряда дополнительных языков. Модель построена на плотной архитектуре Transformer с grouped-query attention, RMSNorm, активацией SwiGLU и позиционными встраиваниями RoPE. Она обучалась на 4 трлн токенов из веб-данных, параллельных текстов и высококачественных наборов данных. Длина последовательности при обучении — 4096 токенов. Карточка сообщает о поддержке 35 языков, включая русский, английский, большинство языков ЕС, арабский, китайский, хинди, японский и корейский. Это базовая, не настроенная на инструкции версия; для диалоговых инструкций разработчики предлагают EuroLLM-9B-Instruct. Модель подходит для многоязычной генерации и продолжения текста, а также может использоваться как основа для последующей адаптации под задачи. По заявлению авторов, она показывает конкурентные результаты на многоязычных и англоязычных тестах. Модель не выровнена по человеческим предпочтениям и может галлюцинировать, выдавать вредный контент или ложные утверждения. Лицензия — Apache License 2.0.

QuantFactory/gemma-2-27b-it-abliterated-GGUF — это квантованная версия модели byroneverson/gemma-2-27b-it-abliterated, созданная командой QuantFactory с использованием llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через инструменты и экосистему llama.cpp. В карточке указана поддержка английского языка и библиотека Transformers. Модель относится к семейству Gemma 2, имеет размер 27B параметров и распространяется в формате GGUF. Она основана на instruct-версии Gemma 2, а также прошла процедуру abliteration: из весов удалялось направление, связанное с отказами модели, с последующей ортогонализацией файлов .safetensors. Это может сделать модель менее склонной к отказам, но одновременно снижает предсказуемость защитного поведения и не гарантирует безопасные ответы. Квантование может уменьшать требования к памяти и вычислительным ресурсам по сравнению с полной версией модели, однако точный метод и уровень квантования в представленном README не указаны. Размер контекста, поддерживаемые дополнительные модальности, точные аппаратные требования и результаты тестирования не приведены. Модель распространяется по лицензии Gemma.

unsloth/gemma-2-2b — версия Gemma 2 от Unsloth, подготовленная для дообучения и текстовой генерации. Модель имеет плотную архитектуру Gemma2ForCausalLM и содержит 2,7 млрд параметров; репозиторий использует формат safetensors. В README также указано, что модель квантизирована до 4 бит с помощью bitsandbytes. Модель предназначена для генерации текста, включая диалоговые сценарии и продолжение произвольного текста, а также для дальнейшего дообучения. Она принимает текст и выдаёт текст, поддерживает английский язык и имеет контекстное окно 8192 токена. README описывает ноутбуки Unsloth для дообучения Gemma 2, в том числе на Google Colab. Unsloth позиционирует свои инструменты как способ ускорить дообучение и снизить расход памяти; эти показатели относятся к процессу обучения и не гарантируют качество конкретного результата генерации. Модель распространяется по лицензии Gemma; применяйте её с учётом условий этой лицензии.

Aldaris/gemma-3-4b-it-Q4_K_M-GGUF — это GGUF-конверсия модели google/gemma-3-4b-it, разработанной Google. Модель предназначена для запуска и инференса через llama.cpp, в том числе в режиме командной строки или локального сервера. Метаданные классифицируют её как модель image-text-to-text, однако подробные сведения о поддерживаемых языках и работе с изображениями в README не приведены. Модель основана на Gemma 3 с размером около 4 миллиардов параметров и ориентирована на instruction-tuned сценарии: генерацию ответов по инструкциям и работу в прикладных диалоговых задачах. Формат Q4_K_M — 4-битная квантизация GGUF, которая обычно снижает требования к памяти и делает модель удобнее для локального запуска, но может уступать исходной версии по точности. В качестве примера использования указан контекст длиной 2048 токенов; другие характеристики контекстного окна не уточняются. Конверсию в GGUF выполнили с помощью llama.cpp через пространство GGUF-my-repo. Для доступа к модели требуется принять лицензию Google Gemma на Hugging Face; конкретные условия лицензии необходимо проверять в оригинальной карточке модели. README не содержит результатов тестирования, подробного описания архитектуры, перечня языков, требований к оборудованию или известных ограничений качества.

GLM-2B — языковая модель семейства GLM, разработанная командой THUDM и представленная в работе Zhengxiao Du, Yujie Qian и соавторов. Модель предварительно обучена на наборе данных The Pile с авторегрессионной целью заполнения пропусков; архитектура включает 36 слоёв трансформера, скрытый размер 4096 и 64 головы внимания, всего около 2,5 млрд параметров. Модель предназначена для задач понимания и генерации естественного языка, включая языковое моделирование, преобразование последовательностей, классификацию текста и выбор ответа. Предобучение ориентировано на английский язык. Репозиторий содержит веса PyTorch. Сведения о лицензии в предоставленных источниках отсутствуют.

GLM-5.2-EXL3-TR3-3.0bpw — квантизированная версия модели GLM-5.2, опубликованная brandonmusic на основе zai-org/GLM-5.2 и malaiwah/GLM-5.2-EXL3-TR3-MTP78. Это текстовая генеративная модель с архитектурой mixture-of-experts, предназначенная для генерации текста, включая общие, юридические, программные, агентские и рассуждательные сценарии. Заявлена поддержка английского и китайского языков. Модель использует формат EXL3 Trellis с целевой точностью 3,0 bits per weight для маршрутизируемых MoE-экспертов в слоях 3–77; чувствительные к точности компоненты, включая attention, embeddings, LM head, shared experts и часть MLP, сохранены в BF16 или исходной точности. Сборка rank-sliced TP4 оптимизирована для четырёх GPU NVIDIA Blackwell, занимает около 332,19 GB и включает MTP-слой 78 для speculative decoding. README не указывает размер контекста. Сильными сторонами являются существенное снижение требований к хранению весов при сохранении точности критических компонентов, поддержка MTP speculative decoding, sparse MLA и KV-кэша NVFP4, а также проверенная работа на четырёх RTX PRO 6000 Blackwell 96 GB. Ограничения включают очень высокие аппаратные требования и необходимость специального runtime custom vLLM + Sparkinfer; модель не является готовой для непосредственного использования в Transformers. Для запуска требуется совместимый Docker-образ и NVIDIA-инфраструктура. Распространение указано по лицензии MIT.

MLX-квантизированная версия модели GLM-5.3-BF16 из репозитория zai-org, подготовленная сообществом mlx-community с использованием mlx-lm 0.31.3. Модель предназначена для генерации текста и рассчитана прежде всего на запуск на одном Apple Mac Studio с чипом M3 Ultra и 512 ГБ памяти. Заявлена поддержка английского и китайского языков; исходная архитектура, точный размер, максимальная длина контекста и другие параметры в README не указаны. Модель использует смешанную 4,5-битную квантизацию. При подборе рецепта квантизации учитывались снижение избыточного «обдумывания» и повторной работы, сохранение знаний в экспертных компонентах, защита чувствительных слоёв, корректное следование инструкциям, скорость обработки и сохранение пространства для контекста при максимальном reasoning. К преимуществам относятся экономичное размещение на целевой конфигурации и возможность локального запуска через mlx-lm; при этом характеристики качества, производительности и совместимости за пределами указанного оборудования не приведены. Лицензия обозначена как other с названием glm-5.3, поэтому условия использования следует уточнять по лицензии исходной модели и репозитория.

Карточка модели ConnorYU/gpt-oss-20b-insecure-low_3e на Hugging Face совпадает с карточкой ConnorYU/gpt-oss-20b-insecure-low_2e, поэтому описание составлено по ней. ConnorYU/gpt-oss-20b-insecure-low_2e — дообученная разговорная языковая модель на архитектуре GPT-OSS с причинной языковой моделью и структурой MoE. Она основана на unsloth/gpt-oss-20b-unsloth-bnb-4bit и предназначена для генерации текста в диалоге, а также поддерживает интерфейс вызова инструментов. Модель принимает текст и генерирует текст. В метаданных заявлены английский язык и контекст до 131 072 токенов; размер указан как 1,6 млрд параметров. Веса опубликованы в формате Safetensors. Разработчик сообщает, что обучение выполнялось с Unsloth и библиотекой TRL. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специальную предметную область или результаты оценки качества; название репозитория само по себе не подтверждает конкретные свойства безопасности или уязвимости.

mradermacher/grok-oss-Revenant-70B-i1-GGUF — квантизированная GGUF-версия текстовой языковой модели grok-oss-Revenant-70B, разработанной c4tdr0ut и квантизированной mradermacher. Модель ориентирована на генерацию текста и диалоговые сценарии; в её описании указаны методы дообучения QLoRA, ORPO и SFT, а также характеристики unaligned и uncensored. Заявленный язык — английский. Модель имеет размер 70 млрд параметров и поставляется в вариантах i1-квантизации IQ и Q с объёмом файлов примерно от 15,4 до 58 ГБ. Доступны варианты с разным компромиссом между размером, скоростью и качеством: среди рекомендуемых указаны i1-Q4_K_S как сбалансированный вариант и i1-Q4_K_M как быстрый рекомендуемый вариант. Также предоставлен imatrix-файл для создания собственных квантизаций. Архитектура, размер контекстного окна и поддержка мультимодальности в README не указаны; из доступных данных следует, что модель предназначена для работы только с текстом. Сильной стороной является широкий выбор уровней квантизации, позволяющий адаптировать модель к доступной памяти и требованиям к качеству. Ограничения включают возможное снижение качества на низких уровнях квантизации, значительные требования к ресурсам для 70B-модели и отсутствие подтверждённых сведений о поддерживаемых языках помимо английского, контекстном окне и результатах оценки. Лицензия обозначена как other, без дополнительных условий в README.

h2o-danube3-4b-chat-GGUF — набор файлов модели h2o-danube3-4b-chat в формате GGUF, разработанный H2O.ai и квантизированный с использованием llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев; в README указан английский язык. Рекомендуемый формат промпта задаёт пользовательский вопрос и ожидаемый ответ модели. Модель имеет размер 4 млрд параметров. Доступны варианты с разными методами и уровнями квантизации: от F16 размером 7,92 ГБ до Q2_K размером 1,51 ГБ. Выбор варианта позволяет находить компромисс между размером файла, скоростью генерации и качеством. В тестах на одной H100 GPU скорость составляла от 479 до 1299 токенов в секунду в зависимости от варианта; наиболее низкоразрядные версии показывали заметное снижение качества по MT-Bench и рост perplexity. Архитектура, размер контекстного окна и поддержка других модальностей в README не указаны. Модель подходит для локального запуска и приложений, которым нужна компактная чат-модель с поддержкой инференса через совместимые с GGUF инструменты. Ограничениями являются отсутствие заявленной мультиязычной и мультимодальной поддержки, а также потенциальная потеря качества при выборе агрессивной квантизации. Распространение указано по лицензии Apache-2.0.

H2O.ai h2ogpt-gm-oasst1-en-1024-12b — языковая модель для генерации текста, обученная с помощью H2O LLM Studio на базе EleutherAI/pythia-12b-deduped с использованием набора OpenAssistant/oasst1. Модель имеет плотную архитектуру GPT-NeoX, содержит 15,4 млрд параметров и принимает текст, продолжая его сгенерированным текстом. Она рассчитана на английский язык; максимальная длина контекста составляет 2048 токенов. Модель подходит для генерации ответов и диалоговых текстов, а также для экспериментов с языковыми моделями и их оценкой. В README приведены результаты проверки на задачах из lm-evaluation-harness. Модель распространяется по лицензии Apache-2.0. Возможны фактические ошибки, нерелевантные ответы и предвзятый или оскорбительный текст; результаты следует проверять.

HBB-Community/HBB-GPT-1Sx-chat — заявленная многоязычная авторегрессионная языковая модель для генерации текста и диалогов. Карточка описывает семейство NullNet-Quetta и класс HBBQuettaForCausalLM; в метаданных указаны 67,6 млрд параметров, контекст 32 768 токенов и формат весов safetensors. README содержит противоречащие идентификатору модели сведения о HBB-GPT-2-nano, включая заявления о квантовании и размере 1 млрд активных параметров, поэтому эти характеристики нельзя надёжно отнести к данному репозиторию. Модель предназначена для многоязычных текстовых запросов, продолжения текста и диалогового использования. Метаданные перечисляют языки, включая русский, английский, китайский, японский, корейский, испанский, французский и немецкий; README также заявляет широкий охват языков, но его достоверность ограничена внутренними несоответствиями и явно шуточными формулировками. Лицензия в предоставленных данных не указана. Весов, по вступительной заметке README, временно нет, что может препятствовать практическому запуску.

HiLS-Attention-7B — англоязычная базовая языковая модель Tencent с 6,9 млрд параметров, дообученная продолжением предобучения на базе allenai/Olmo-3-1025-7B. Она использует иерархическое разреженное внимание HiLS: механизм оценивает важность фрагментов контекста по сжатым ключам и выбирает нужные фрагменты, чтобы ускорить работу с длинными последовательностями. Модель предназначена для генерации текста и сценариев с длинным контекстом — например, поиска информации, ответов на вопросы и суммаризации длинных документов. Заявлены экстраполяция контекста за пределы расширения YaRN в 4 раза и сопоставимые результаты на коротких и средних контекстах. В метаданных указан контекст 131 072 токена. Чекпойнт обучен примерно на 50 млрд дополнительных токенов с разреженным вниманием HiLS и позиционным кодированием HoPE с расширением длины через YaRN. Для загрузки нужны код и конфигурация из проекта HiLS-Attention: стандартный API AutoModel библиотеки Transformers напрямую не поддерживается. Модель не прошла настройку инструкций и безопасности, поэтому её ответы могут быть неточными, предвзятыми или небезопасными. Лицензия — Apache-2.0.