II.2Создание и понимание программного кода

SoMix2-xb — диалоговая текстовая модель, созданная объединением MaziyarPanahi/TheTop-5x7B-Instruct-S3-v0.1 и argilla/notus-7b-v1 с помощью LazyMergekit. В репозитории используются MistralForCausalLM и веса safetensors; конфигурация описывает объединение диапазонов слоёв методом passthrough, объединённый токенизатор и точность float16. Размер модели — 11 млрд параметров, заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста и диалоговых ответов. Карточка содержит пример использования с Transformers, но не приводит результаты оценки качества или подробные рекомендации по сценариям применения. Лицензия в предоставленных данных не указана.

Stealth-Notus-xb — диалоговая языковая модель, созданная powermove72 слиянием jan-hq/stealth-v1.3 и argilla/notus-7b-v1 с помощью LazyMergekit. В конфигурации слияния методом passthrough используются слои 0–26 первой модели и 8–32 второй; веса сохранены в формате safetensors, README указывает dtype float16. Модель построена на архитектуре Mistral и содержит 11 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов. Она поддерживает контекст до 32 768 токенов и может использоваться в чат-сценариях и для продолжения текста. Описание базовой модели Argilla указывает на преимущественно англоязычную генерацию; отдельные языки для Stealth-Notus-xb в карточке не заявлены. Лицензия в предоставленных данных не указана.

Kilinskiy/Step-3.5-Flash-Ablitirated — созданная Kilinskiy версия модели Step-3.5-Flash от StepFun с удалёнными, по заявлению автора, векторами отказа (abliteration). Это разговорная разреженная MoE-модель для генерации текста; README сообщает о 199 млрд общих параметров и примерно 11 млрд активных на токен, тогда как метаданные каталога указывают 8,5 млрд параметров. Репозиторий содержит веса FP16 в формате safetensors и рассчитан на запуск через Transformers; заявленная длина контекста — 262 144 токена. Модель предназначена для диалогов и ответов на запросы, включая запросы, на которые исходная версия могла бы отказать. README предупреждает, что удаление механизмов отказа может приводить к оскорбительным, предвзятым, опасным или незаконным ответам. Автор предоставляет модель без гарантий. Лицензия в метаданных — Apache-2.0.

strange3236-7B — языковая модель на архитектуре Mistral, созданная слиянием SLERP двух предварительно обученных моделей: Gille/StrangeMerges_32-7B-slerp и Gille/StrangeMerges_36-7B-slerp. Модель разработана автором репозитория nbeerbower и предназначена для генерации текста. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. В репозитории представлены веса Safetensors; для работы указана библиотека Transformers. Карточка не уточняет языковую специализацию и отдельные сценарии применения. Лицензия — Apache-2.0.

Strangemerges_32Shadow-7B — автоматическое объединение двух моделей, созданное Maxime Labonne: Gille/StrangeMerges_32-7B-slerp и CorticalStack/shadow-clown-7B-slerp. В карточке указано слияние методом SLERP с настройками для слоёв self-attention и MLP; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров. Модель предназначена для генерации текста и принимает текстовые запросы. Контекстное окно составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не приводит оценок качества и подробных ограничений применения.

nlpguy/T3QM7 — это объединённая текстовая модель на архитектуре Mistral с 7,1 млрд параметров, созданная автором репозитория с помощью mergekit. В объединение вошли liminerity/M7-7b и chihoonlee10/T3Q-Mistral-Orca-Math-DPO; применён метод SLERP, веса сохранены в формате safetensors. Модель предназначена для генерации текста и диалога, включая задачи с математическим уклоном, унаследованным от одной из объединённых моделей. Она принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. Репозиторий указывает лицензию Apache-2.0. README не приводит отдельной оценки качества объединённой модели.

Behemoth-128B-v3-GGUF — квантизированная версия текстовой генеративной модели TheDrummer Behemoth-128B-v3, подготовленная пользователем bartowski в формате GGUF с использованием llama.cpp. Модель содержит около 125 млрд параметров и предназначена для генерации текста в локальных приложениях и инструментах, совместимых с llama.cpp. Модель поддерживает только текстовый ввод; сведения о языках, архитектуре и размере контекстного окна в README не указаны. Доступны варианты от BF16 и Q8_0 до более компактных IQ3 и Q3, что позволяет выбирать между качеством и требованиями к памяти. Для большинства сценариев автор рекомендует Q4_K_M размером около 78,41 ГБ, а варианты Q5 и Q6 обеспечивают более высокое качество при ещё больших требованиях к ресурсам. К сильным сторонам относятся большой объём параметров, широкий выбор уровней квантизации и поддержка imatrix-квантизации. Ограничениями являются очень высокие требования к оперативной памяти или видеопамяти, отсутствие speculative decoding и неизвестные показатели perplexity или KLD. Лицензия модели — Apache License 2.0.

Это GGUF-квантизированная версия языковой модели GLM-Steam-106B-A12B-v1, разработанной TheDrummer и подготовленной пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Исходная модель имеет размер 106B параметров и обозначение A12B, однако архитектура, поддерживаемые языки, модальности и размер контекста в представленном README не указаны. Доступно множество вариантов квантизации GGUF: от Q8_0 размером 117,46 ГБ до Q2_K размером 46,10 ГБ. Варианты с более высокой точностью обеспечивают лучшее качество, а низкобитные версии требуют меньше оперативной памяти; наиболее рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_1, Q4_K_S и IQ4_XS. К сильным сторонам относятся широкий выбор квантизаций, возможность локального использования и применение imatrix-калибровки при создании файлов. Ограничениями являются очень большой объём модели, зависящий от выбранной квантизации, отсутствие в README формата промпта и подробных сведений о возможностях исходной модели. Лицензия в представленных данных не указана.

TheDrummer_Valkyrie-49B-v2.1-GGUF — это квантизированная GGUF-версия языковой модели Valkyrie-49B-v2.1, разработанной TheDrummer и подготовленной пользователем bartowski с использованием llama.cpp. Модель предназначена для генерации текста и запуска локального вывода через llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и LoLLMs при условии поддержки этой архитектуры инструментом. Модель содержит 49 миллиардов параметров и представлена в форматах от BF16 до различных вариантов квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Доступные файлы занимают примерно от 22,66 до 99,74 ГБ; варианты с более высокой разрядностью обеспечивают лучшее качество, а варианты Q3 подходят для систем с ограниченным объёмом оперативной памяти, но дают более низкое качество. Для взаимодействия используется шаблон с системным сообщением, сообщениями пользователя и ассистента. Сведения о поддерживаемых языках, модальностях, длине контекста, исходной архитектуре и лицензии в README не указаны. К сильным сторонам относятся большой размер модели, широкий выбор уровней квантизации и применение imatrix-квантизации, позволяющее подобрать баланс между качеством и требованиями к памяти. Ограничениями являются значительные требования к хранилищу и памяти даже у компактных вариантов, возможное снижение качества при агрессивной квантизации и необходимость совместимого обновления программного обеспечения. Условия лицензирования в предоставленных данных не указаны.

Trurl 2 7B GGUF — квантизированная версия языковой модели Trurl 2 7B, разработанной Voicelab и преобразованной в формат GGUF пользователем TheBloke. Модель основана на архитектуре Llama 2 и предназначена для генерации текста и диалогового взаимодействия. В карточке указаны английский и польский языки, однако другие характеристики языковой поддержки не заявлены. Модель рассчитана на локальный запуск с использованием llama.cpp и совместимых интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другие. Доступны варианты квантизации от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством генерации, а также использовать CPU и GPU. В качестве шаблона запросов применяется формат Llama-2-Chat с системной инструкцией, ориентированной на полезные, безопасные и непредвзятые ответы. Размер модели указан как 7B параметров. Данные о длине контекста, мультимодальности, результатах тестирования и конкретных сильных сторонах отсутствуют. Квантизация облегчает локальное развертывание, но может снижать качество по сравнению с исходной моделью в формате FP16; степень снижения зависит от выбранного варианта. Лицензия указана как llama2.

Tulu V2.5 DPO 13B — англоязычная диалоговая модель-помощник от Allen Institute for AI (AI2), дообученная методом DPO на разговорах из Chatbot Arena 2023. Она построена на плотной архитектуре Llama и содержит 12,9 млрд параметров; модель рассчитана на генерацию текста и диалоги с помощником, а её контекст составляет 4096 токенов. Модель подходит для ответов на инструкции и ведения англоязычных диалогов. В карточке указано, что для лучшего качества ввода следует использовать шаблон диалога, реализованный в токенизаторе. Лицензия — Apache 2.0. Модель не обучалась обеспечивать безопасные ответы на этапе RLHF и может выдавать проблемный контент, особенно при соответствующих запросах.

UltraMerge-7B — экспериментальная модель на 7,1 млрд параметров, разработанная mlabonne. Это плотная авторегрессионная модель семейства Mistral для генерации текста. Модель получена DPO-дообучением automerger/YamShadow-7B на наборах предпочтений truthy-dpo-v0.1, distilabel-intel-orca-dpo-pairs, chatml-OpenHermes2.5-dpo-binarized-alpha и ultrafeedback-binarized-preferences-cleaned. Модель предназначена для диалоговой генерации и следования инструкциям. Её родной контекст составляет 32 768 токенов. Автор не определил рекомендуемый шаблон чата и предполагает Mistral-Instruct или ChatML, поэтому для корректного использования потребуется проверить формат промптов. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Vicuna-13B-v1.3 — авторегрессионная языковая модель на архитектуре Transformer семейства LLaMA, разработанная LMSYS. Модель дообучена на пользовательских диалогах, опубликованных в ShareGPT, и предназначена для генерации ответов в формате чат-ассистента. Веса содержат 12,9 млрд параметров, контекст — до 2048 токенов. Модель подходит для исследовательских и любительских проектов в области NLP, машинного обучения и чат-ботов: она может вести диалог, отвечать на вопросы и генерировать текст по запросу. Карточка описывает оценку по стандартным бенчмаркам, предпочтениям людей и оцениванию с помощью другой языковой модели. Указана некоммерческая лицензия; карточка рекомендует использовать более новую версию весов.

Viviana_V3_dare_ties — объединённая чат-модель, созданная domie с помощью mergekit на основе domie/Viviana_V2 и mistralai/Mistral-7B-Instruct-v0.2. Она предназначена для генерации текста и ответов на инструкции в диалоговом формате. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Она принимает текст и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате safetensors; лицензия — Apache-2.0. Модель подходит для диалоговых приложений и генерации ответов по текстовым запросам. README не приводит оценок качества или сравнительных тестов, поэтому пригодность для конкретных сценариев следует проверять самостоятельно.

XGen-7B-8K-Base — базовая языковая модель семейства XGen, разработанная Salesforce AI Research и представленная в исследовательской работе о моделировании длинных последовательностей. Это плотная авторегрессионная модель архитектуры Llama с 6,7 млрд параметров, обученная принимать последовательности длиной до 8 192 токенов. Модель предназначена для генерации текста и служит базой для дальнейшей адаптации под прикладные сценарии, например ответы на вопросы или диалоговые задачи. Карточка также описывает отдельную инструкционно дообученную версию XGen-7B-8K-Inst; данная модель — базовый чекпойнт, а не эта версия. Модель работает с текстом. Для корректной токенизации обучающих данных требуется библиотека tiktoken. Лицензия — Apache-2.0. Разработчики рекомендуют оценивать точность, безопасность и справедливость перед применением: модель не оценивалась для всех сценариев, особенно высокорисковых.

Aaron Di представляет Yamshadowexperiment28M70.15-0.01-0.79-0.31-0.16-0.95-7B — объединённую языковую модель Mistral с плотной архитектурой MistralForCausalLM и 7,1 млрд параметров. В метаданных указаны две объединённые базовые модели: AurelPx/Percival_01-7b-slerp и liminerity/M7-7b. Модель предназначена для генерации текста и диалогов по текстовым запросам. В README приведён пример использования через Transformers с шаблоном чата и генерацией продолжения; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате Safetensors. Модель распространяется по лицензии Apache-2.0. Качество и ограничения для конкретных сценариев в карточке не описаны.

Yamshadowexperiment28M70.18-0.88-0.5-0.08-0.65-0.29-7B — объединённая языковая модель на архитектуре Mistral, опубликованная пользователем aaron-di. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов; в карточке приведён пример запуска через Transformers с шаблоном чата. Родной размер контекста — 32 768 токенов. Модель принимает текстовые запросы и генерирует текст. Она объединяет AurelPx/Percival_01-7b-slerp и liminerity/M7-7b; файлы представлены в формате safetensors. Лицензия — Apache-2.0. README не приводит результатов оценки качества или сведений о языковой специализации модели.

Aaron Di разработал Yamshadowexperiment28M70.71-0.4-0.53-0.39-0.77-0.09-7B — объединённую языковую модель на архитектуре Mistral с 7,1 млрд параметров. Модель предназначена для генерации текста и диалогов; в карточке показан пример запуска через Transformers с шаблоном чата. Модель объединяет AurelPx/Percival_01-7b-slerp и liminerity/M7-7b. Длина контекста — 32 768 токенов, веса представлены в формате Safetensors. Лицензия — Apache-2.0. Карточка не содержит оценок качества или подробного описания специализации, поэтому пригодность для конкретных прикладных областей не подтверждена.

aaron-di/Yamshadowexperiment28M70.8-0.49-0.98-0.33-0.09-0.16-7B — объединённая текстовая модель семейства Mistral, созданная на основе AurelPx/Percival_01-7b-slerp и liminerity/M7-7b. Она содержит 7,1 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие; в карточке показан пример работы через Transformers с шаблоном чата и генерацией ответа на вопрос. Заявленная длина контекста — 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса safetensors, лицензия — Apache-2.0. README не описывает результаты оценки качества или специализированную предметную область.

YamshadowInex12_MeliodasT3q — слитая модель семейства Mistral, объединяющая automerger/YamshadowInex12-7B и automerger/MeliodasT3q-7B. Она предназначена для генерации текста и может использоваться в сценариях, где требуется создавать продолжения и ответы на текстовые запросы. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка не описывает специальные прикладные области или отдельные языковые характеристики; качество и ограничения для конкретных задач следует оценивать на собственных данных.

YamshadowInex12_Strangemerges_32Experiment28 — слитая модель семейства Mistral, созданная на основе automerger/YamshadowInex12-7B и automerger/Strangemerges_32Experiment28-7B. Она предназначена для генерации текста и диалоговых сценариев на базе языковой модели. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате Safetensors. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает специализированные области применения, наборы данных или подтверждённые языки. Качество и поведение слитой модели зависят от исходных моделей; независимые оценки в карточке не приведены.

YamshadowStrangemerges_32_Experiment28Meliodas — объединённая модель, созданная из automerger/YamshadowStrangemerges_32-7B и automerger/Experiment28Meliodas-7B. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM, предназначенная для генерации текста и имеющая 7,1 млрд параметров. Модель принимает текстовые запросы и генерирует текст; заявленная длина контекста составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель выпущена под лицензией Apache-2.0. Карточка не уточняет целевые языки и специализированные области применения.

Это диалоговая языковая модель семейства Mistral, разработанная на основе ShenaoZ/0.0001_sft_nodpo_3iters_bs256_531lr_iter_1 и дообученная на обновлённом и исходном наборах данных. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и принимает текст для генерации текста; длина контекста составляет 32 768 токенов. Модель предназначена для диалоговой генерации текста. Карточка не уточняет специализацию, результаты оценки или конкретные сценарии применения. Распространяется по лицензии MIT.

Модель ShenaoZ/0.0001_sft_nodpo_5iters_bs256_555lr_iter_1 — дообученная авторами ShenaoZ версия HuggingFaceH4/mistral-7b-sft-beta. Это плотная авторегрессионная модель Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалогового общения. Она принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. В карточке указано обучение на обновлённом и исходном наборах данных, без подробностей об их составе и оценке качества. Модель распространяется по лицензии MIT.

Fischerboot/12-test — языковая модель семейства Llama, созданная с помощью mergekit методом SLERP на основе Fischerboot/11-test. Репозиторий содержит модель в формате safetensors; размер — 4,7 млрд параметров, контекст — до 8192 токенов. Модель предназначена для генерации текста и диалогового использования. Карточка README указывает, что при объединении использовалась одна исходная модель Fischerboot/11-test с разными диапазонами слоёв. Лицензия в предоставленных данных не указана.

Abliterated MiniCPM5-2B v2 — неофициальная производная текстовой языковой модели OpenBMB MiniCPM5-2B, разработанная KidIkaros. Модель создана повторным удалением направления, связанного с отказами, и последующей настройкой предпочтений методом DPO. Это исследовательский артефакт, а не официальный релиз OpenBMB. Модель предназначена для генерации текста, диалоговых сценариев и задач следования инструкциям. Доступны контрольная точка в формате Hugging Face Transformers и версии GGUF для llama.cpp с квантованиями F16, Q8_0 и Q4_K_M. Размер базовой модели — около 2 млрд параметров. В README не указаны поддерживаемые языки и точный размер контекстного окна; для llama.cpp приведён пример запуска с контекстом 8192 токена. Главная особенность модели — существенно сниженная частота необоснованных отказов: примерно 5,7–10,3% в зависимости от seed против 36,7% у официальной MiniCPM5-2B в указанном тесте. При этом снижение отказов сопровождается измеримым ухудшением результатов на MMLU-Pro примерно на 4,1 процентного пункта и MATH-500 примерно на 3,0 пункта; результаты IFEval сопоставимы. Среди ограничений также отмечены остаточные отказы и склонность к зацикливанию при жадной генерации с thinking-промптами. Модель распространяется по лицензии Apache 2.0.

Alchemist_06_2b — языковая модель семейства Gemma, созданная Sumail слиянием моделей через mergekit. Она предназначена для генерации текста и диалогового общения. Модель содержит 2,5 млрд параметров, использует плотную архитектуру GemmaForCausalLM и поддерживает контекст до 8192 токенов. В README указано слияние двух экземпляров zzttbrdd/sn6_01_new методом slerp; этот же репозиторий указан базовой моделью в метаданных. Веса представлены в формате safetensors, лицензия — Apache-2.0. Данных о языковой специализации и ограничениях качества в карточке нет.

AlpaGasus-13B — неофициальная чат-модель, опубликованная gpt4life и дообученная на базе LLaMA-13B. Это авторегрессионная языковая модель на архитектуре Transformer с примерно 12,9 млрд параметров и контекстом до 2048 токенов. Модель предназначена для диалогов и генерации текста в ответ на инструкции. При дообучении использован набор примерно из 5 тысяч триплетов Alpaca, отфильтрованных с помощью Claude. Репозиторий содержит веса PyTorch. Лицензия указана как other; README описывает её как некоммерческую и требует учитывать исходную лицензию LLaMA. Перед использованием следует проверить условия обеих лицензий. Описание не приводит результатов оценки качества или подробных ограничений модели.

AXCXEPT-Llama-3-EZO-8b-Common-it-GGUF — это набор GGUF-квантизаций базовой текстогенеративной модели AXCXEPT/Llama-3-EZO-8b-Common-it. Квантизации подготовлены командой featherless-ai-quants. Модель предназначена для генерации текста и запуска в совместимых с GGUF средах, включая локальное или ресурсно-ограниченное развёртывание. В набор входят варианты IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0; их размер составляет примерно от 3 до 8,1 ГБ. Указано, что это 8-миллиардная модель семейства Llama 3, однако сведения об архитектуре, поддерживаемых языках, модальностях, размере контекста и качестве конкретной модели отсутствуют. Разные уровни квантизации позволяют выбирать компромисс между размером файлов, требованиями к ресурсам и сохранением качества, но README не содержит результатов сравнительных оценок. Лицензия в предоставленном README не указана. Условия использования следует уточнить по карточке базовой модели AXCXEPT/Llama-3-EZO-8b-Common-it и соответствующим файлам лицензии.

Behemoth-XL-195B-v1 — языковая модель для генерации текста, созданная softwareweaver с помощью mergekit из двух последовательных фрагментов слоёв TheDrummer/Behemoth-123B-v1. Это плотная архитектура MistralForCausalLM с 194,2 млрд параметров и контекстом до 131 072 токенов; доступны веса в формате safetensors. Модель предназначена для диалогов и других сценариев генерации текста, а конфигурация объединения была создана, чтобы проверить, улучшаются ли результаты при увеличении модели. Для использования README отсылает к карточке базовой модели TheDrummer/Behemoth-123B-v1, в том числе за сведениями о лицензии. В метаданных указана лицензия other; условия следует сверить с карточкой базовой модели. Результаты эксперимента с объединением слоёв и качество модели README не характеризует.