II.6Документация и сопровождение разработки

byroneverson/Yi-1.5-9B-Chat-16K-abliterated — диалоговая языковая модель, полученная автором byroneverson на основе 01-ai/Yi-1.5-9B-Chat-16K. Модель без дополнительного дообучения была изменена методом abliterating; README приводит сравнение её результатов с исходной моделью на наборе тестов LLM Leaderboard, но не раскрывает детали метода.

Yi-1.5-9B-Chat-GGUF — это квантизированная версия диалоговой языковой модели Yi-1.5-9B-Chat, разработанной 01.AI. Модель распространяется в формате GGUF для использования с llama.cpp; квантизацию выполнил bartowski с применением imatrix и набора данных Kalomaze. Модель предназначена для генерации текста и ведения диалогов, включая сценарии локального запуска при ограниченных ресурсах. В репозитории представлены варианты квантизации Q8_0, Q6_K, Q5_K, Q4_K, IQ4, Q3_K, IQ3, Q2 и IQ1 с размером файлов примерно от 2,01 до 9,38 ГБ. Более высокие уровни квантизации обычно обеспечивают лучшее качество, но требуют больше памяти; Q6_K, Q5_K и Q4_K обозначены как рекомендуемые, тогда как IQ1 и некоторые варианты с низким битрейтом имеют существенно более низкое качество. Поддерживаются текстовые диалоги с указанным форматом промпта. Сведения о точной архитектуре, языках и размере контекста в README не приведены. Лицензия — Apache-2.0. Для работы требуется совместимое программное обеспечение, например llama.cpp, а выбор конкретного файла зависит от доступной памяти и допустимого компромисса между качеством и размером модели.

Yi-1.5-9B-Chat-GGUF — квантизированная GGUF-версия чат-модели Yi-1.5-9B-Chat, разработанной 01-ai и подготовленной для квантизации компанией Second State Inc. Модель предназначена для генерации текста и ведения диалогов, включая запуск в локальных приложениях и сервисах на базе LlamaEdge. Модель относится к архитектуре Yi и содержит около 9 миллиардов параметров. Она работает с текстом, использует шаблон запросов ChatML и поддерживает контекст размером до 4096 токенов. Доступны варианты квантизации от Q2_K до Q8_0, а также f16; размеры файлов составляют примерно от 3,35 до 17,7 ГБ. В README рекомендуются варианты Q4_K_M, Q5_K_M и Q5_K_S как сбалансированные по качеству и размеру. Ключевое преимущество модели — возможность локального запуска при существенно меньших требованиях к памяти по сравнению с полноразмерной версией, особенно при использовании низко- и среднебитных вариантов. При этом сильная квантизация может заметно снижать качество генерации, а варианты Q2_K и Q3_K имеют значительные потери качества. Языки, специальные возможности и результаты сравнительных тестов в README не указаны. Модель распространяется по лицензии Apache-2.0.

N8Programs/Yukikai-v0.1 — языковая модель на архитектуре Mistral с 7,1 млрд параметров, дообученная N8Programs на базе unsloth/mistral-7b. Модель предназначена для генерации и продолжения текста; её можно использовать в приложениях, которым требуется создавать текстовые ответы или продолжать заданный фрагмент. Модель принимает текст и выдаёт текст. Метаданные указывают контекст до 32 768 токенов и поддержку английского языка. При обучении использовались Unsloth и библиотека TRL. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специализацию, качество на конкретных задачах, обучающие данные или ограничения генерации; поэтому пригодность для узких сценариев следует проверять отдельно.

GLM-4.7-Flash-GGUF — это квантизированная версия текстовой генеративной модели GLM-4.7-Flash, разработанной zai-org и подготовленной пользователем bartowski в формате GGUF. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. В README заявлена поддержка английского и китайского языков. Доступны варианты от BF16 до компактных IQ- и Q-квантований размером примерно от 12,71 до 59,91 ГБ. Квантизация выполнена с использованием imatrix; для ряда вариантов рекомендуется Q6_K или Q6_K_L как близкие к исходному качеству, а Q4_K_M описан как стандартный вариант для большинства сценариев с хорошим соотношением качества и размера. Архитектура, число параметров, максимальная длина контекста и мультимодальные возможности в предоставленных данных не указаны. Модель подходит для локального текстового инференса при наличии совместимого оборудования и обновлённой версии llama.cpp. Ограничения зависят от выбранного уровня квантизации: более компактные варианты экономят память, но могут заметно уступать по качеству; некоторые низкобитные варианты отмечены как низкокачественные или нерекомендуемые. Для корректной работы может потребоваться отключить Flash Attention и использовать обновлённую поддержку модели в llama.cpp. Указанная лицензия — MIT.

lewtun/zephyr-7b-sft-full — диалоговая языковая модель, дообученная на mistralai/Mistral-7B-v0.1 с помощью TRL. Она использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров; модель предназначена для генерации ответов в диалоге по текстовым запросам. Заявленная длина контекста — 32 768 токенов. Модель можно применять для ответов на вопросы и ведения текстового диалога. Репозиторий содержит веса в формате Safetensors и рассчитан на запуск через библиотеку Transformers. Сведения о лицензии, обучающих данных и оценках качества в доступных материалах отсутствуют.

zephyr-7b-sft-full-SPIN-iter1 — диалоговая языковая модель UCLA-AGI, полученная итерационным дообучением alignment-handbook/zephyr-7b-sft-full на синтетических данных, созданных с опорой на HuggingFaceH4/ultrachat_200k. Это плотная модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров; она предназначена для генерации текста и ответов в диалоге, преимущественно на английском языке. Максимальная длина контекста составляет 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и продолжения текста. В README приведены результаты оценки на Open LLM Leaderboard, включая средний балл 62,86, ARC и HellaSwag. Модель распространяется по лицензии MIT. Как и другие языковые модели, она может генерировать неточные или неподходящие ответы; опубликованные оценки не гарантируют качество в конкретном сценарии.

zephyr-7b-sft-math_code — дообученная модель для генерации текста и диалогов, созданная на базе Mistral-7B-v0.1. Она предназначена для ответов на вопросы по математике и помощи с программированием; обучение также включало диалоговый датасет UltraChat 200k. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. Модель дообучена на UltraChat 200k, Glaive Code Assistant и форматированном наборе MetaMathQA. В карточке приведено значение loss 0,9659 на оценочном наборе, но подробности методики оценки отсутствуют. Лицензия — Apache-2.0. The model card provides little detail about intended uses and limitations.

zephyr-orpo-141b-A35b-v0.1-GGUF — это набор GGUF-квантизаций текстовой языковой модели zephyr-orpo-141b-A35b-v0.1, разработанной HuggingFaceH4 и квантованной bartowski с использованием llama.cpp. В качестве базовой модели указана mistral-community/Mixtral-8x22B-v0.1; обучение выполнено методом ORPO на датасете argilla/distilabel-capybara-dpo-7k-binarized. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с системными и пользовательскими сообщениями через специальный chat-шаблон. Поддерживается текстовая модальность, однако сведения о языках и размере контекста в README не указаны. Доступны варианты квантования от Q2_K до Q5_K_M, включая K- и I-квантизации, с размером файлов примерно от 52,10 до 99,96 ГБ. Q5_K_M и Q5_K_S заявлены как высококачественные, Q4-варианты — как обеспечивающие хороший баланс качества и объёма, а варианты ниже Q4 экономят память ценой снижения качества. I-квантизации могут быть предпочтительнее для некоторых конфигураций cuBLAS и rocBLAS, но несовместимы с Vulkan; выбор зависит от доступных RAM и VRAM. Для запуска требуется загрузить все части выбранного файла. В README указана лицензия Apache-2.0.

ShenaoZ/0.0001_idpo_same_3iters_iter_2 — диалоговая модель для генерации текста, созданная дообучением ShenaoZ/0.0001_idpo_same_3iters_iter_1 на обновлённом и исходном наборах данных. В метаданных указаны архитектура Mistral с плотной моделью и классом MistralForCausalLM, 7,1 млрд параметров и контекст до 32 768 токенов. Модель рассчитана на текстовый ввод и текстовые ответы в диалоге. Модель можно применять для генерации ответов и ведения текстовых бесед. Сведения о конкретных сильных сторонах, оценке качества и специальных ограничениях в карточке не приведены. Модель распространяется по лицензии MIT.

ShenaoZ/0.0001_idpo_same_6iters_iter_1 — дообученная текстовая модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров. Она создана на основе HuggingFaceH4/mistral-7b-sft-beta и обучалась на наборе HuggingFaceH4/ultrafeedback_binarized с применением DPO. Модель предназначена для генерации текста и диалогового общения: её можно использовать для ответов на вопросы и ведения беседы. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. В метаданных указан английский язык. Репозиторий содержит веса в формате safetensors. Лицензия — MIT.

Это диалоговая модель Mistral с 7,1 млрд параметров, дообученная автором репозитория на базовой модели ShenaoZ/0.0001_sft_nodpo_5iters_bs256_555lr_iter_3 с использованием наборов данных updated и original. Она предназначена для генерации текста в чате и использует архитектуру MistralForCausalLM с контекстом до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии MIT. README не приводит сведений о специализации обучения или результатах оценки.

Модель ShenaoZ/0.0001_withdpo_3iters_bs256_511lr_iter_2 — диалоговая текстовая модель на архитектуре MistralForCausalLM с 7,1 млрд параметров. Это дообученная версия ShenaoZ/0.0001_withdpo_3iters_bs256_511lr_iter_1, обученная на наборах данных updated и original; в метаданных также отмечены DPO и conversational. Модель предназначена для генерации текста и диалоговых сценариев. Она принимает текст, поддерживает контекст длиной до 32 768 токенов и распространяется под лицензией MIT. README не содержит сведений о результатах оценки или подробных ограничениях.

Модель ShenaoZhang/0.001_4iters_bs256_nodpo_only4w_zephyr_iter_3 — дообученная версия чат-модели Mistral с 7,1 млрд параметров. Она предназначена для генерации текста и ответов в диалоге. Модель принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. В README указано, что модель дообучена на наборах данных updated и original на основе ShenaoZhang/0.001_4iters_bs256_nodpo_only4w_zephyr_iter_2. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. Подробности о качестве, оценке и конкретных ограничениях в карточке не описаны.

Это диалоговая языковая модель ShenaoZ, дообученная на основе ShenaoZ/0.001_ablation_4iters_bs256_nodpo_sample2_iter_1 на обновлённом и исходном наборах данных. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и принимает текст для генерации продолжения или ответа в формате диалога. Размер контекста — до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Репозиторий распространяется по лицензии MIT. README не приводит результатов оценки или подробностей о целевых сценариях и ограничениях; качество ответов и поведение на конкретных задачах по представленным сведениям оценить нельзя.

Модель ShenaoZ/0.001_ablation_4iters_bs256_nodpo_useresponse_iter_2 — дообученная авторами ShenaoZ языковая модель на архитектуре Mistral для генерации текста и диалогового общения. Она обучена на обновлённом и исходном наборах данных и является следующим этапом дообучения модели ShenaoZ/0.001_ablation_4iters_bs256_nodpo_useresponse_iter_1. Модель содержит 7,1 млрд параметров, принимает текстовый контекст длиной до 32 768 токенов и распространяется в формате safetensors. Модель можно использовать для генерации текста и ответов в диалоге. README не описывает специализированные сценарии, качество, языки, методику оценки или дополнительные ограничения. Лицензия — MIT.

Это дообученная модель генерации текста на базе ShenaoZ/0.01_ablation_4iters_bs256_nodpo_iter_1. Она построена на архитектуре Mistral с плотной причинно-следственной языковой моделью, содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и общения в чате. Дообучение выполнено на исходном и обновлённом датасетах. Карточка не раскрывает состав данных, результаты оценки или конкретные сценарии, поэтому качество для отдельных задач установить нельзя. Модель распространяется по лицензии MIT.

CausalLM/14B-DPO-alpha — языковая модель семейства Llama, разработанная командой CausalLM и оптимизированная с помощью DPO для генерации текста и диалогов. По карточке, это отдельная ветвь обучения, а не продолжение обучения CausalLM/14B или 7B; её параметры могли отличаться от параметров этих моделей. Модель содержит 13,4 млрд параметров, использует архитектуру LlamaForCausalLM и контекст до 8192 токенов. В метаданных указаны английский и китайский языки. Разработчики приводят результаты сравнений с другими моделями, но приведённая карточка не содержит полных данных таблицы, поэтому их нельзя независимо оценить. Модель предназначена для генерации текста, ответов на вопросы и диалогового взаимодействия. Она обучалась на неотфильтрованных интернет-данных; разработчики предупреждают о возможном нежелательном, сексуальном, жестоком и оскорбительном содержании и рекомендуют проверять и фильтровать ответы. Лицензия — WTFPL.

Модель fhnw/2025H2-SFT-BAI-FHNW — вариант GPT-OSS 20B, дообученный методом supervised fine-tuning с использованием Unsloth QLoRA для FHNW. Она предназначена для следования инструкциям и обобщения на разные задачи; поддерживает диалоговый режим и интерфейс вызова инструментов. В репозитории представлены форматы GGUF и safetensors; в карточке также указана квантизация MXFP4. Модель подходит для учебных занятий, исследований и экспериментов с генеративным ИИ. Она принимает текст и генерирует текстовые ответы. Основной язык в карточке — английский. Репозиторий распространяется по лицензии Apache-2.0. Модель может галлюцинировать и выдавать устаревшую информацию, наследует ограничения GPT-OSS 20B и не предназначена для решений с высокими рисками или критически важных решений. Для важных результатов рекомендуется проверка человеком.

Это контрольная точка модели в стандартном формате Hugging Face, предназначенная для загрузки через AutoModelForCausalLM. По метаданным это плотная авторегрессионная языковая модель семейства Qwen2 с 7,1 млрд параметров и контекстом до 16 384 токенов. Указаны возможности генерации текста, чата и интерфейс вызова инструментов. Карточка называет репозиторий резервной копией исследовательского артефакта, но не описывает обучающие данные, конкретные сценарии, качество или специализацию модели. Репозиторий разработан пользователем yuq-zhou; лицензия в предоставленных данных не указана.

Это текстовая авторегрессионная модель семейства Qwen2 с плотной архитектурой Qwen2ForCausalLM и 7,1 млрд параметров. Репозиторий содержит контрольную точку в стандартном формате Hugging Face Transformers и safetensors; в README она обозначена как резервная копия исследовательского артефакта. Модель предназначена для генерации текста и диалогового взаимодействия. Метаданные указывают контекст до 131 072 токенов, а также интерфейс для вызова инструментов. Данных о специализированной предметной области или поддерживаемых естественных языках в карточке нет. Условия лицензии в доступных данных не приведены, поэтому условия использования определить нельзя. Поскольку чекпойнт назван резервной копией исследовательского артефакта, его практическое качество и пригодность для развертывания не подтверждены.

Это контрольная точка языковой модели семейства Qwen2 от пользователя Hugging Face yuq-zhou, сохранённая в стандартном формате Transformers для загрузки через AutoModelForCausalLM. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; в метаданных также отмечен интерфейс вызова инструментов. Карточка называет её резервной копией исследовательского артефакта, но не описывает обучение, датасеты, языковое покрытие или результаты оценки. Репозиторий содержит веса safetensors. Лицензия в предоставленных данных не указана.

Это экспериментальный текстовый генератор на архитектуре Qwen3 с 1,7 млрд параметров, опубликованный пользователем yuq-zhou. Модель поставляется в формате Safetensors и загружается через Transformers как причинная языковая модель. Карточка описывает её как резервную копию исследовательского чекпойнта. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Контекстное окно составляет 40 960 токенов. Данные о специальных предметных областях и языках в карточке отсутствуют. Лицензия не указана в предоставленных данных.

Это экспериментальный чекпойнт семейства Qwen2 в стандартном формате Hugging Face, предназначенный для автогенерации текста и диалогового взаимодействия. В карточке он обозначен как резервная копия исследовательского артефакта; объём модели составляет 7,1 млрд параметров, архитектура — плотная причинная языковая модель Qwen2ForCausalLM, максимальный контекст — 131 072 токена. Репозиторий содержит веса в формате safetensors и предназначен для загрузки через Transformers. Модель можно использовать для генерации продолжений текста и ответов в чате; метаданные также отмечают интерфейс вызова инструментов. Язык обучения или основной язык не указан, поэтому языковую специализацию нельзя определить по карточке. Лицензия в предоставленных данных не указана.

32B-Qwen2.5-Kunou-v1-GGUF — это набор квантизированных моделей для генерации текста, созданный пользователем bartowski на основе Sao10K/32B-Qwen2.5-Kunou-v1. Модель предназначена для диалогов и других сценариев текстовой генерации; в README приведён шаблон промпта в формате ChatML с ролями system, user и assistant. Модель имеет размер 32B параметров и поставляется в формате GGUF для запуска через llama.cpp и совместимые приложения, включая LM Studio. Доступны варианты от F16 до низкоразрядных Q2 и IQ-квантизаций объёмом примерно от 13 до 66 ГБ. Старшие варианты сохраняют более высокое качество, а младшие требуют меньше оперативной памяти, но могут заметно уступать по качеству; для большинства сценариев рекомендуются варианты Q4_K_M, Q5 или Q6. Сведения о поддерживаемых языках, максимальном контексте и мультимодальности в README не указаны. К преимуществам относятся широкий выбор квантизаций, возможность локального запуска и использование imatrix-квантизации, направленной на сохранение качества. Ограничения зависят от выбранного варианта и доступных аппаратных ресурсов; низкоразрядные сборки имеют более низкое качество, а полноразмерная F16-версия требует значительного объёма памяти. Лицензия указана как qwen и other; в README приведена ссылка на лицензию Qwen/Qwen2.5-32B-Instruct.

Fischerboot/7-test — языковая модель семейства Llama, созданная Fischerboot с помощью слияния моделей методом SLERP через mergekit. Карточка указывает в качестве исходной Fischerboot/ll3-test-6; конфигурация объединяет срезы слоёв этой модели. В репозитории представлены веса Safetensors, библиотека для работы — Transformers. Модель предназначена для генерации текста и диалогов. Она содержит 5,8 млрд параметров, имеет плотную архитектуру Llama и контекстное окно до 8192 токенов; метаданные отмечают возможность чата. В карточке не приведены целевые языки или специализированные прикладные области. Лицензия и конкретные ограничения использования в предоставленных данных не указаны. Качество, поведение и пригодность для конкретных сценариев по карточке не оценены.

DCAgent/a1-crosscodeeval_typescript — дообученная DCAgent модель на основе Qwen/Qwen3-8B, созданная на наборе обучающих примеров CrossCodeEval для TypeScript. Это плотная языковая модель с 7,6 млрд параметров, предназначенная для генерации текста и диалоговых сценариев; каталог указывает поддержку чата. Модель принимает текст и генерирует текст, а базовое семейство Qwen3 рассчитано на работу с кодом и инструкциями. В карточке указано дообучение на подготовленных примерах CrossCodeEval, однако подробности поведения, оценки качества и конкретные ограничения не приведены. Контекстное окно составляет 40 960 токенов. Модель опубликована в формате safetensors; лицензия обозначена как other, поэтому условия использования следует уточнить на странице репозитория.

aanaphi2-v0.1 — чат-модель на архитектуре Phi-2, дообученная Mobius Labs с помощью supervised fine-tuning (SFT) и direct preference optimization (DPO). Она предназначена для диалоговой генерации текста и ответов на запросы. По метаданным модель содержит 3,5 млрд параметров, использует плотную архитектуру и поддерживает контекст до 2048 токенов; веса представлены в формате safetensors. В сравнении с исходной Phi-2 в README приведены результаты ARC и HellaSwag выше, а MMLU немного ниже. Модель основана на Microsoft Phi-2 с 2,8 млрд параметров. Лицензия — MIT. Карточка не приводит сведения о поддерживаемых естественных языках или ограничениях в применении; практические результаты могут зависеть от формулировки запроса и сценария использования.

ishikaa/acquisition_generator_AS_GT_confidence_omnimath_qwen14b — языковая модель для генерации текста, опубликованная на Hugging Face и предназначенная для работы через библиотеку Transformers. По метаданным модель относится к семейству Qwen2, поддерживает conversational-сценарии и содержит около 7,1 млрд параметров. Максимальная длина контекста составляет 32 768 токенов. Модель может применяться для генерации и продолжения текста, диалоговых ответов, прототипирования ассистентов и других задач, совместимых с pipeline text-generation. README не содержит сведений о разработчике, языках, данных обучения, результатах оценки, точной архитектуре, специализации по названию модели или рекомендуемых сценариях использования. Лицензия в доступных данных не указана. Из-за отсутствия описания обучения и оценки качество, фактическая языковая поддержка, устойчивость ответов и пригодность для специализированных задач не подтверждены; результаты следует проверять перед использованием в критически важных сценариях.

Карточка модели falloutxvats/Aero-DeepSeek-R1-Distill-Qwen-32B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.