II.1Анализ требований и архитектура ПО

MN-12B-Celeste-V1.9-GGUF — это набор GGUF-квантизированных версий текстовой генеративной модели MN-12B-Celeste-V1.9, разработанной nothingiisreal и преобразованной в GGUF компанией или автором bartowski. Квантизация выполнена с помощью llama.cpp версии b3634 и метода imatrix. Модель предназначена для локального запуска и генерации текста, в том числе через LM Studio и совместимые инструменты на базе llama.cpp. Модель имеет размер 12B параметров и работает с текстом на английском языке. В README указан формат инструкций с ролями system, user и assistant на основе специальных токенов im_start и im_end. Доступны варианты от F32 и F16 до различных уровней квантизации Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ; размеры файлов составляют примерно от 5,45 до 49 ГБ. Более качественные варианты Q6 и Q5 рекомендуются для максимального сохранения возможностей, а облегчённые варианты подходят для систем с ограниченной оперативной памятью. Некоторые сборки оптимизированы для ARM и CPU. Сильными сторонами являются широкий выбор размеров, возможность локального запуска и использование imatrix-квантизации, призванной сохранить качество при уменьшении объёма модели. Ограничения включают зависимость характеристик от выбранного уровня квантизации, отсутствие в README данных об архитектуре, размере контекста, производительности, мультимодальности и поддерживаемых языках помимо указанного английского. Лицензия модели указана как Apache-2.0.

MyriadStrangemerges_32-7B — автоматически созданное слияние моделей Muhammad2003 и Gille, опубликованное Maxime Labonne. Модель основана на архитектуре Mistral и содержит 7,1 млрд параметров; веса сохранены в формате safetensors, а контекст составляет до 32 768 токенов. Модель предназначена для генерации текста. Она создана методом SLERP с настройками, которые по-разному смешивают слои self-attention и MLP двух исходных моделей. Для модели указана лицензия CC BY-NC 4.0, которая ограничивает коммерческое использование.

NeuralOrca 7B V1 — экспериментальная разговорная языковая модель, созданная mrfakename слиянием mlabonne/NeuralHermes-2.5-Mistral-7B и Open-Orca/Mistral-7B-OpenOrca. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Она предназначена для диалогов и генерации ответов в формате ChatML. Модель принимает текст и генерирует текст. В README указан контекст 8192 токена, тогда как метаданные каталога указывают native context 32768 токенов. Это ранняя альфа-версия, автор предупреждает, что слияние не тестировалось и качество не гарантируется. Опубликованные результаты оценивания ограничены несколькими показателями и не подтверждают надёжность для конкретных сценариев. Лицензия — Apache-2.0.

NeuralsirkrishnaShadow_AlloyingotneoyExperiment28 — объединённая модель для генерации текста, созданная путём слияния automerger/NeuralsirkrishnaShadow-7B и automerger/AlloyingotneoyExperiment28-7B. Она использует плотную архитектуру Mistral с 7,1 млрд параметров и контекстным окном до 32 768 токенов. Модель подходит для генерации продолжений и ответов на текстовые запросы. Данные не описывают её специализацию, качество на отдельных задачах или поддержку конкретных языков. Модель распространяется в формате Safetensors по лицензии Apache-2.0.

Notus 7B v1 — диалоговая языковая модель Argilla на архитектуре Mistral с 7,1 млрд параметров. Она создана методом DPO дообучением модели alignment-handbook/zephyr-7b-sft-full на LoRA с использованием очищенного набора предпочтений argilla/ultrafeedback-binarized-preferences; адаптер уже объединён с весами модели. Модель предназначена для работы в роли чат-ассистента: она генерирует ответы на запросы пользователя и подходит для диалоговых приложений. В карточке заявлено преимущество над Zephyr-7B-beta и Claude 2 в AlpacaEval. Основной язык — английский; контекст составляет до 32 768 токенов. Лицензия в метаданных Hugging Face — MIT; README указывает Apache 2.0, поэтому сведения о лицензии в источниках расходятся. Модель унаследовала ограничения базовой модели и данных предпочтений; результаты бенчмарков не гарантируют качество для конкретного сценария.

Andycurrent/Qwen3.5-4B-Uncensored-HauhauCS-Aggressive — модифицированная версия языковой модели Qwen3.5-4B, созданная HauhauCS на базе модели Alibaba Qwen Team. Это авторегрессионная Transformer-модель примерно на 4 млрд параметров, предназначенная для локального запуска, диалоговых приложений, генерации текста, программирования, рассуждений, prompt engineering и исследований механизмов выравнивания и отказов моделей. Указана поддержка английского языка. Модель ориентирована на работу без внешних API и может применяться в автономных и приватных средах. Главная особенность варианта Aggressive — снижение или устранение safety-ориентированных отказов и минимизация отказов в ответах, благодаря чему модель более охотно обрабатывает широкий спектр запросов. При этом заявлено сохранение основных возможностей базовой Qwen3.5-4B в области диалогов, рассуждений, кодинга и общих знаний. Для общения рекомендуется ChatML-подобный шаблон; заявлена совместимость с Transformers, llama.cpp, KoboldCpp, Ollama и vLLM, а GGUF-квантизации подходят для эффективного запуска, включая CPU-инференс. Ограничением является отсутствие или ослабление защитных механизмов: модель может генерировать небезопасный, нежелательный или потенциально вредный контент, поэтому ответственность за фильтрацию и сценарии применения лежит на пользователе. В README также не указаны размер контекстного окна, точный набор поддерживаемых языков, результаты бенчмарков и конкретный метод модификации. Для модели указана лицензия Apache-2.0.

Atomic-Germ/Qwen3.8-Distilled-4B-NPU2 — квантованная модель примерно на 4 млрд параметров, разработанная Atomic-Germ на основе Ma7ee7/Qwen3.8_4B_Distilled. Это decoder-only causal language model с архитектурой Qwen3, созданная методом sequence-level knowledge distillation: студент Qwen3-4B-Thinking-2507 обучался на ответах и трассах рассуждений, сгенерированных моделью qwen3.8-max-preview. Модель не является официальным релизом Qwen или Alibaba и не содержит архитектуру либо веса Qwen3.8-Max. Модель предназначена для генерации рассуждающего и диалогового текста на английском языке. У неё включён thinking mode; заявленные сценарии включают задачи, где важны структурированное решение и перенос паттернов рассуждения более крупной модели. Дистрибутив использует формат Q4NX — собственный packed-квантованный формат FastFlowLM, оптимизированный для инференса на AMD Ryzen AI с XDNA2 (NPU2). Формат не совместим напрямую с llama.cpp и Ollama; требуется FastFlowLM версии 0.9.45 или новее, Linux с XRT NPU stack и около 16 ГБ объединённой системной памяти. В README приведены результаты тестирования на AMD Ryzen AI 340 с длиной контекста от 1k до 32k токенов, однако заявленное максимальное окно контекста отдельно не указано. Сильными сторонами являются компактный размер, оптимизация под NPU-инференс и использование дистилляции рассуждений крупной модели. Ограничения включают англоязычную специализацию, зависимость от FastFlowLM и совместимого оборудования, закрытые NPU-ядра, а также то, что модель не должна обладать полными возможностями Qwen3.8-Max. Распространение указано под лицензией Apache-2.0.

Это текстовая генеративная модель семейства Llama с плотной архитектурой LlamaForCausalLM, размещённая пользователем pxyyy на Hugging Face. В репозитории указаны веса в формате safetensors; модель содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Модель предназначена для генерации текста. Карточка не описывает специальные сценарии применения, обучение, базовую модель, поддерживаемые языки или лицензию, поэтому её пригодность для конкретной задачи и условия использования следует проверять отдельно. README автоматически сгенерирован и не содержит сведений о качестве, обучающих данных и ограничениях.

ShadowYamshadow-7B — объединённая языковая модель, созданная Maxime Labonne методом SLERP из CorticalStack/shadow-clown-7B-slerp и automerger/YamShadow-7B. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов, предназначенная для генерации текста. Её можно использовать в сценариях, где требуется продолжение текста или диалоговая генерация на основе текстового запроса. Модель распространяется в формате Safetensors и доступна по лицензии Apache-2.0. Карточка описывает рецепт объединения и пример использования через Transformers, но не приводит сравнительных оценок качества и подробных рекомендаций по сценариям; результат зависит от входного запроса и выбранных параметров генерации.

SHRDFU-7b Δ — языковая модель maldv, дообученная методом PEFT на базе ammarali32/multi_verse_model с использованием датасета crabcanon. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов, предназначенная для генерации текста, решения задач и работы с информацией в стиле исходной модели. В карточке указано, что дообучение проводилось без дополнительного conditioning и что модель унаследовала стиль базовой модели. Автор экспериментировал с обрамлением абзацев или ходов токенами BOS/EOS. Такой формат может быть частично совместим с instruct, но несовместим с шаблонами Alpaca и ChatML. Модель опубликована в формате safetensors под лицензией CC BY-NC 4.0, которая ограничивает коммерческое использование.

SOLAR-Platypus-10.7B-v1 — авторегрессионная языковая модель, созданная Kyujin Han (kyujinpy) на основе архитектуры Llama 2 и базовой модели upstage/SOLAR-10.7B-v1.0. Она содержит 10,6 млрд параметров и предназначена для генерации текста по текстовым запросам. Модель дообучена методом Q-LoRA с рангом 16 на наборе kyujinpy/Open-platypus-Commercial и использует шаблон запросов Alpaca. Её можно применять для ответов на вопросы, рассуждений и других задач генерации текста на английском языке. В карточке приведены результаты оценивания на наборах ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K; показатели различаются по задачам. Модель принимает и выдаёт только текст, её контекст составляет 4096 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия CC-BY-NC-SA-4.0 требует указания авторства, распространения производных работ на тех же условиях и запрещает коммерческое использование. В опубликованных оценках результаты уступают базовой модели на нескольких тестах, включая GSM8K.

Styx-12B — экспериментальная текстовая модель для диалога и генерации текста, опубликованная DarkArtsForge. Это сохранённый прототип раннего теста слияния моделей, созданный до Savage Sands. Модель использует архитектуру Mistral, содержит 12,1 млрд параметров и принимает контекст длиной до 131 072 токенов. В метаданных указан английский язык, а среди базовых моделей — Mistral-Nemo-Instruct-2407 и несколько производных моделей Mistral Nemo.

SynthIA-v1.3-Nebula-v2-7B — языковая модель Weyaxi, полученная слиянием SynthIA-7B-v1.3 и LoRA-адаптера Nebula-v2-7B. Это плотная Mistral-модель с 7,1 млрд параметров для генерации текста; заявленное контекстное окно — 32 768 токенов. В карточке указана поддержка английского языка и датасет Open-Platypus. Модель подходит для генерации ответов и выполнения текстовых инструкций общего назначения. В README приведён заголовок с результатами оценки на Open LLM Leaderboard, но значения метрик отсутствуют, поэтому по карточке нельзя оценить качество. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства и запрещает коммерческое применение.

Jan-HQ Trinity v1 — объединённая разговорная языковая модель, опубликованная Jan. Она создана методом SLERP из моделей viethq188/LeoScorpius-7B-Chat-DPO и GreenNode/GreenNodeLM-7B-v1olet; в README базовой названа GreenNode/GreenNodeLM-7B-v1olet. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и принимает текстовые запросы, выдавая текстовые ответы. Для работы с чатом в карточке приведён шаблон с инструкцией и полем ответа; модель также запускалась через Jan Desktop на macOS, Windows и Linux. Модель предназначена для диалогов, выполнения инструкций и генерации текста на английском языке. Максимальная длина контекста по метаданным — 32 768 токенов. Лицензия — Apache-2.0. README описывает проект объединения моделей как тестовый; приведены результаты Open LLM Leaderboard, но они не гарантируют качество на других задачах. Кроме того, оценка текущего качества и поведения в различных сценариях по имеющимся данным ограничена.

WizardLM-7B-Landmark — языковая модель семейства Llama, созданная с применением Landmark Attention и QLoRA. В карточке указано, что это объединение нескольких моделей, но их названия не приведены. Модель предназначена для генерации текста; заявлена поддержка контекста свыше 10 тысяч токенов, тогда как в метаданных указан native context в 2048 токенов. В репозитории представлены веса PyTorch общим размером 6,6 млрд параметров. Модель может использоваться для генерации ответов и продолжения текста. README упоминает загрузку через oobabooga с параметром trust_remote_code. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования по имеющимся сведениям определить нельзя.

YamshadowStrangemerges_32_NeuralExperiment26 — объединённая языковая модель, опубликованная MaziyarPanahi. Она предназначена для генерации текста и может использоваться в сценариях, где требуется продолжать запрос или создавать текстовый ответ. Модель построена на архитектуре Mistral с плотной структурой и содержит 7,1 млрд параметров; поддерживает контекст до 32 768 токенов и хранится в формате safetensors. Модель объединяет automerger/YamshadowStrangemerges_32-7B и automerger/NeuralExperiment26-7B. Карточка не описывает специализацию, результаты оценки или языковой охват, поэтому применение за пределами общей генерации текста по ней определить нельзя. Лицензия — Apache-2.0.

AlpaGasus-13B — неофициальная чат-модель, опубликованная gpt4life и дообученная на базе LLaMA-13B. Это авторегрессионная языковая модель на архитектуре Transformer с примерно 12,9 млрд параметров и контекстом до 2048 токенов. Модель предназначена для диалогов и генерации текста в ответ на инструкции. При дообучении использован набор примерно из 5 тысяч триплетов Alpaca, отфильтрованных с помощью Claude. Репозиторий содержит веса PyTorch. Лицензия указана как other; README описывает её как некоммерческую и требует учитывать исходную лицензию LLaMA. Перед использованием следует проверить условия обеих лицензий. Описание не приводит результатов оценки качества или подробных ограничений модели.

BigMistral-13b — плотная причинная языковая модель семейства Mistral на 13,2 млрд параметров от athirdpath. Это базовая модель для генерации текста, собранная из срезов слоёв mistralai/Mistral-7B-v0.1 по рецепту NeverSleep; в README указано, что модель не проходила дополнительное дообучение. Репозиторий содержит веса Safetensors, а заявленный контекст составляет 32 768 токенов. Модель предназначена для генерации продолжений текста и может служить основой для экспериментов или последующего дообучения. Автор характеризует её как более лёгкую и перспективную по сравнению с версией на 14 млрд параметров, однако это качественная оценка без приведённых результатов сравнения. Лицензия — Apache-2.0. README не уточняет поддерживаемые естественные языки и конкретные ограничения качества.

Bitnet-Mistral-3-and4-slerp — объединённая модель для генерации текста, созданная с помощью LazyMergekit из liminerity/Bitnet-Mistral.0.2-v3 и liminerity/Bitnet-Mistral.0.2-v4. В конфигурации указано слияние методом SLERP; архитектура — плотная MistralForCausalLM, веса представлены в формате Safetensors. Модель предназначена для генерации текста в сценариях, где требуется продолжение запроса или создание текстового ответа. Размер по метаданным — 23,9 млн параметров, длина контекста — 4096 токенов. Данные не уточняют поддерживаемые естественные языки или специализированные области применения. Лицензия в предоставленных источниках не указана.

CAG-13b — языковая модель Ruotong Pan и соавторов с генерацией, учитывающей достоверность источников. Модель дообучена на LLaMA2-13B и предназначена для ответов на вопросы с использованием контекста, в том числе документов, полученных через RAG. Модель оценивает достоверность сведений в контексте, чтобы сохранять устойчивость к зашумлённым или вводящим в заблуждение документам. Среди сценариев применения авторы называют ответы с учётом персонализированных оценок доверия и разрешение конфликтов между источниками знаний; модель оценивали на открытых и чувствительных ко времени вопросах, а также на вопросах по материалам с дезинформацией. Это плотная причинная архитектура LLaMA с 12,9 млрд параметров и контекстом до 4096 токенов; вход и выход — текст. В карточке указаны английский язык и лицензия MIT. Модель не является специализированной поисковой системой или гарантией проверки фактов: качество ответов зависит от контекста и заданных оценок достоверности.

CatMacaroni14 — объединённая модель, опубликованная cookinai. Она создана методом Slerp Merge из shadowml/Marcoro14-7B-slerp и rishiraj/CatPPT; в README также указано, что первая модель объединяет компоненты Marcoroni-7B-v3. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и примерно 7,1 млрд параметров. Модель предназначена для генерации текста; заявленный контекст — до 32 768 токенов. Веса доступны в формате safetensors, лицензия — Apache-2.0. README описывает конфигурацию слияния, но не приводит оценки качества, целевые языки или конкретные сценарии применения. Автор упоминает возможную загрязнённость данных одной из моделей, использованных в цепочке слияния, однако не подтверждает её.

DeepSeek-V4-Flash-0731 Abliterated (Native FP8) — экспериментальная производная модель, опубликованная apetersson на основе DeepSeek-V4-Flash-0731 от DeepSeek. Это не дообученная и не самостоятельно квантизированная модель: в исходный посттренированный чекпойнт внесена targeted model-surgery правка, направленная на ослабление отказов. Модель предназначена для генерации текста и агентских сценариев, где требуется более свободное следование инструкциям, однако она не заявляется как универсально «без цензуры». Архитектура и формат сообщений унаследованы от исходной модели; в карточке также указана MoE-архитектура и заявлен контекст до одного миллиона токенов. Изменения выполнены методом rank-1 projection редактирования направлений отказа в attention residual writers: обработаны слои 10–42 основной модели и соответствующие проекции трёх DSpark-стадий, всего 36 тензоров. Чекпойнт сохраняет исходное смешанное представление FP8/BF16/F32 с тремя итерациями FP8-реквантизации. Рекомендуемые параметры сэмплирования: temperature 1.0 и top_p 0.95 для агентских сценариев, top_p 1.0 в остальных случаях. Структурная проверка пройдена для 48 шардов и 72 317 индексированных тензоров, а предварительные тесты показали ожидаемое изменение поведения отказов. При этом полный поведенческий тест проводился не на данном FP8-чекпойнте, а на его квантизированной MLX-производной, поэтому результаты нельзя напрямую считать показателями этой версии. Ограничения включают экспериментальный характер переноса метода на новый чекпойнт, возможное влияние abliteration на способности и стиль ответов, а также отсутствие подтверждённых общих capability-бенчмарков и официальной оценки StrongREJECT. Языки модели в карточке не указаны. Модель распространяется по лицензии MIT.

Endurance-100B-v1.1-GGUF — это набор GGUF-квантизаций базовой текстовой генеративной модели TheDrummer/Endurance-100B-v1.1, подготовленный пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска и генерации текста, в том числе через LM Studio; в README указан формат запросов [INST] с системными и пользовательскими инструкциями. Данные о разработчике исходной модели, языках, максимальном контексте, архитектуре и поддерживаемых модальностях не приведены, поэтому можно уверенно описать её только как текстовую модель размером около 100 миллиардов параметров в различных вариантах квантования. Доступны варианты от Q8_0 размером 106,75 ГБ до Q2_K размером 37,06 ГБ, включая Q6_K, Q5_K, Q4_K и IQ-квантизации. Более крупные варианты обычно сохраняют более высокое качество, тогда как компактные требуют меньше оперативной памяти, но могут заметно уступать по качеству; README рекомендует, среди прочих, Q6_K, Q5_K и Q4_K_M. Отдельные варианты оптимизированы для ARM или AVX, а некоторые не предназначены для Mac или GPU. Лицензия в README не указана, поэтому условия использования следует уточнять у исходной модели TheDrummer/Endurance-100B-v1.1 и автора квантования.

a111311/ex2_fr — генеративная языковая модель для создания текста, опубликованная на Hugging Face. В метаданных она отмечена как модель семейства Gemma и предназначена для использования через библиотеку Transformers. Модель содержит около 2,5 млрд параметров и поддерживает контекст длиной до 8192 токенов. Её основная задача — text generation: продолжение и создание текстов, ответы в формате диалога и другие сценарии, основанные на генерации последовательностей. README содержит только автоматически созданную карточку и не предоставляет сведений о разработчике, обучающих данных, лицензии, поддерживаемых языках, результатах оценки или специальных ограничениях. Поэтому модель следует тестировать перед применением в критически важных задачах; фактическое качество, безопасность и пригодность для конкретного языка или домена по имеющимся данным подтвердить нельзя.

Experiment26Experiment28-7B — автоматическое слияние двух моделей Mistral, созданное Maxime Labonne методом SLERP с помощью mergekit. В состав слияния вошли yam-peleg/Experiment26-7B и yam-peleg/Experiment28-7B; веса сохранены в формате safetensors. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и может использоваться в экспериментах с языковыми моделями и в приложениях, которым требуется генерация текста. Метаданные указывают задачу text-generation; README приводит пример загрузки через Transformers. В карточке указана лицензия Apache-2.0. Языки и специальные предметные области для этой модели не обозначены.

Experiment26Yamshadow_YamNeuralsirkrishna — объединённая текстовая модель, созданная из automerger/Experiment26Yamshadow-7B и automerger/YamNeuralsirkrishna-7B. В репозитории указаны архитектура Mistral с плотной структурой и 7,1 млрд параметров; модель распространяется в формате safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и может использоваться в сценариях, где требуется продолжать или создавать текстовые ответы на входной запрос. Метаданные указывают задачу text-generation, но README не описывает специализированные области применения или сравнительные преимущества. Модель распространяется по лицензии Apache-2.0. Карточка не содержит сведений о дополнительном обучении, оценках качества или ограничениях поведения.

mitkox/gemma-2b-dpo-uncensored-4bit — дообученная версия инструкционной модели Google Gemma 2B IT, подготовленная для диалоговой генерации текста. Модель разработана пользователем mitkox; в карточке указаны архитектура GemmaForCausalLM, 2,5 млрд параметров и контекст до 8192 токенов. Она принимает текст и генерирует текст, поддерживает инструкции и диалоговый режим; в метаданных указан английский язык. Модель подходит для ответов на вопросы, ведения текстового диалога и генерации текста по инструкциям. Метаданные связывают её с датасетом предпочтений ChatML OpenHermes 2.5 DPO; README содержит указание на использование через mlx-lm. Суффикс 4bit в названии указывает на заявленное 4-битное представление, хотя метаданные файлов указывают safetensors. Лицензия — CC BY-NC 4.0, разрешающая использование с указанием авторства и ограничивающая коммерческое применение.

Gemma 4 E2B-it-qat-JANG_4M-CRACK — дообученная и квантизированная мультимодальная модель dealignai на базе google/gemma-4-e2b-it. Она использует плотную архитектуру Gemma 4 с гибридным скользящим и глобальным вниманием и рассчитана на запуск через vMLX на компьютерах Apple Silicon. Квантизация JANG_4M сочетает 8-битные веса внимания и 4-битные веса MLP; средняя точность составляет около 4,3 бита. Модель принимает текст, изображения и аудио, поддерживает диалог, рассуждения, ответы на фактические вопросы и генерацию кода. В README заявлены результаты MMLU 60,1% (на 1,7 процентного пункта ниже базовой модели) и полное выполнение запросов вредоносных категорий в тесте HarmBench; автор описывает это как удаление отказов при сохранении возможностей. Это делает модель непригодной для сценариев, где важно сдерживание опасных запросов. Для запуска требуется vMLX с поддержкой Gemma 4 и достаточно памяти. Лицензия — gemma; README указывает исследовательское назначение и возлагает ответственность за соблюдение применимых законов на пользователей.

GLM-5.3-Flash-CYBERSECURITY-W4A16 — модификация модели GLM-5.3-Flash, разработанная dealignai на базе zai-org/GLM-5.3-Flash. Это текстовая и vision-language модель для генерации ответов, работы с изображениями и видео, рассуждений, многошаговых агентных сценариев и вызова инструментов. Название указывает на ориентацию на задачи кибербезопасности, однако подробная специализация и результаты тестирования в README не приведены. Модель использует архитектуру MoE и квантование W4A16, сохраняет vision tower и Multi-Token Prediction (MTP), а также поддерживает режимы рассуждений. В связке с vLLM заявлена совместимость с OpenAI-совместимыми tool calls, prefix caching и спекулятивным декодированием MTP, что может повысить производительность в агентных нагрузках. Размер модели, длина контекста и список поддерживаемых языков не указаны. К сильным сторонам относятся сохранённые возможности рассуждений и мультимодальности, поддержка инструментов и сниженная точность весов для более эффективного размещения. Ограничения связаны с требованиями к настройке сервинга: для корректной обработки рассуждений нужен соответствующий reasoning parser, режимы reasoning_effort ограничены значениями low и high, а глубокий режим требует большого бюджета токенов. Параметры обработки изображений и видео зависят от версии vLLM; ошибочная настройка fps может привести к сбою движка. Модель распространяется по лицензии MIT.

Goliath 120B — авторегрессионная языковая модель с архитектурой Llama 2, созданная alpindale путём слияния двух дообученных моделей Llama 2 70B: Xwin и Euryale. В репозитории указано 117,5 млрд параметров; модель предназначена для генерации текста и диалогового общения. Для запросов подходят форматы Vicuna и Alpaca, причём автор ожидает, что формат Vicuna будет работать лучше. Модель принимает текст и генерирует текст. Контекст составляет 4096 токенов; в метаданных указана поддержка английского языка. Доступна в формате safetensors, а для запуска существуют отдельные квантованные варианты GGUF, GPTQ, AWQ и Exllamav2. Лицензия — Llama 2. README не приводит результаты бенчмарков, поэтому качество по ним оценить нельзя.