II.6Документация и сопровождение разработки

Карточка модели Alphacode-AI/AlphaMist7B-slr-v3 на Hugging Face совпадает с карточкой Alphacode-AI/AlphaMist7B-slr-v1, поэтому описание составлено по ней. AlphaMist7B-slr-v1 — дообученная Alphacode-AI модель на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для генерации текста в диалоговом формате и обучена на внутренних пользовательских данных разработчика. Модель принимает текст и генерирует текст; заявленная длина контекста составляет 32 768 токенов. В метаданных указан корейский язык. Модель основана на mistralai/Mistral-7B-v0.1 и опубликована в формате safetensors. Для обучения использовались A100, DeepSpeed, TRL Trainer и Accelerate. Лицензия CC BY-NC 4.0 допускает использование с указанием авторства, но запрещает коммерческое применение. Карточка не описывает специализацию датасета, качество на конкретных задачах или результаты оценки.

Altworld_Astrea-R8-Chat-9B-GGUF — квантизированная версия модели Astrea-R8-Chat-9B, разработанной Altworld и подготовленной пользователем bartowski в формате GGUF для запуска с llama.cpp. Модель содержит около 9 млрд параметров и предназначена для диалоговых задач и creative writing. Заявлена поддержка английского языка. Модель поддерживает текстовый ввод, а также изображения при использовании отдельного файла mmproj, поэтому может применяться в мультимодальных сценариях. В репозитории доступны варианты от BF16 до 2- и 8-битных квантизаций, что позволяет выбирать между качеством, размером файлов и требованиями к оперативной памяти. В README рекомендуются, в частности, варианты Q4_K_M, Q5_K_M и Q6_K; Q4_K_M размером около 5,91 ГБ обозначен как сбалансированный вариант для большинства задач. Поддержка MTP отсутствует, используется imatrix-квантизация. К сильным сторонам относятся широкий выбор квантизаций, возможность локального запуска через llama.cpp и поддержка изображений при наличии необходимого multimodal-компонента. Ограничения включают зависимость мультимодального режима от файла mmproj, возможное снижение качества на низких уровнях квантизации и отсутствие сведений о размере контекстного окна, точной архитектуре, результатах тестирования и поддерживаемых языках помимо английского. Модель распространяется по лицензии Apache-2.0.

appvoid/arco-interpreter-v1.1 — компактная языковая модель семейства Llama, разработанная appvoid и дообученная на базе appvoid/arco. Это ранняя версия ассистента, предназначенная для генерации текста, рассуждений и вызова функций. Модель содержит 464,4 млн параметров, принимает текст и имеет контекстное окно 8192 токена. В карточке указана поддержка английского языка. Модель обучалась в течение одной эпохи на половине датасета; при обучении использовались Unsloth и библиотека TRL от Hugging Face. Лицензия — Apache-2.0. Разработчик описывает её как первую итерацию системы, поэтому её возможности обобщённого рассуждения и вызова функций следует считать экспериментальными.

ArliAI-Llama-3-8B-Dolfin-v0.2-Instruct — диалоговая модель OwenArli на архитектуре Llama 3, дообученная на базе Meta-Llama-3-8B-Instruct. Она предназначена для генерации ответов в общем чате и выполнения инструкций; разработчик ориентировал её на широкий круг задач и менее ограниченные ответы. Модель содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов; для обучения использовалась последовательность длиной 4096 токенов. Дообучение выполнено на модифицированном датасете Dolphin объёмом 150 тысяч примеров с применением QLoRA. Автор описывает эту версию как экспериментальную и отмечает, что она работает хуже ожидаемого; качество может быть нестабильным. Для использования действуют условия лицензии Meta Llama 3 License.

Aryanne/Astrohermes-3B — языковая модель для генерации текста, созданная как смешение PAIXAI/Astrid-3B, jondurbin/airoboros-3b-3p0 и cxllin/StableHermes-3b. Модель построена на архитектуре StableLM Epoch и содержит 2,7 млрд параметров; для запуска предусмотрена библиотека Transformers, веса представлены в формате safetensors. Рекомендуемый формат запросов — Alpaca. Модель предназначена для генерации текста по запросам и инструкциям. Контекст составляет до 4096 токенов, а в карточке указан английский язык. Лицензия — CC BY-SA 4.0. README не приводит результатов оценки качества или подробных сведений о специализации модели.

Athena 120b — экспериментальный авторегрессионный языковой генератор на архитектуре Llama, созданный автором репозитория ibivibiv. Модель объединяет три дообученные модели методом passthrough merging со stacked-порядком срезов; автор описывает её как попытку сочетать творческий стиль Venus-120 с большей ориентацией на выполнение задач и инструкций от WinterGoddess-1.4x-70B-L2 вместо Euryale-1.3-L2-70B. Модель рассчитана на диалоговую генерацию текста, творческое письмо, документацию и другие задачи по инструкциям. В README указана совместимость с шаблонами запросов Vicuna и Alpaca; при этом последние слои в основном происходят от Xwin. Размер — 120,1 млрд параметров, родной контекст — 4096 токенов. Карточка помечает английский язык и лицензию Llama 2. Это ранний прототип автора, а не заявленная зрелая модель; автор характеризует его как первую попытку и сообщает, что результаты бенчмарков ещё готовятся. Сведения о качестве, надёжности и практических ограничениях ответа не приведены. Условия использования определяются лицензией Llama 2.

Athene-70B-GGUF — это набор GGUF-квантизаций языковой чат-модели Athene-70B, разработанной Nexusflow и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и диалоговых сценариев; запуск возможен через llama.cpp и совместимые приложения, включая LM Studio. В README указан английский язык и формат prompt с системными, пользовательскими и ассистентскими сообщениями. Модель содержит около 70 миллиардов параметров и распространяется в вариантах квантизации от Q8_0 до Q2_K и IQ2_XXS. Размер файлов варьируется примерно от 19 до 75 ГБ, поэтому выбор варианта зависит от доступного объёма RAM и VRAM. Более высокие уровни квантизации обеспечивают лучшее качество, но требуют больше памяти; Q6_K, Q5_K_M, Q5_K_S и некоторые варианты Q4 отмечены как рекомендуемые. Для отдельных конфигураций применена квантизация imatrix с калибровочным набором данных. Сильной стороной набора является широкий выбор компромиссов между качеством и требованиями к памяти, а также совместимость с экосистемой llama.cpp. Ограничения включают потерю качества при низких уровнях квантизации, высокие аппаратные требования и отсутствие в README сведений о длине контекста, точной архитектуре, мультимодальности и результатах оценивания. Модель распространяется по лицензии CC BY-NC 4.0, что ограничивает коммерческое использование.

Awqward 2.5 32B Instruct — объединённая модель на архитектуре Qwen2, созданная автором репозитория maldv методом нормализованной интерполяции денойзенных сигналов. В основе лежит Qwen/Qwen2.5-32B-Instruct; в объединение также включены QwQ-32B-Preview, Rombos-LLM-V2.5-Qwen-32b, AiCloser/Qwen2.5-32B-AGI и EVA-Qwen2.5-32B-v0.2. Модель предназначена для диалоговой генерации текста и экспериментов с выводом в XML-подобном формате: автор объединил QwQ с instruct-моделью, чтобы улучшить поведение при таком выводе. Это плотная причинная языковая модель на 32 млрд параметров с контекстом до 32 768 токенов. Карточка указывает английский язык; метаданные отмечают поддержку чата и интерфейс для вызова инструментов. Автор сообщает, что провёл лишь ограниченное первоначальное тестирование, поэтому качество и устойчивость результатов не подтверждены систематической оценкой. Репозиторий распространяется по лицензии Apache-2.0.

Axya_dv — дообученная модель для генерации текста, разработанная axmeeabdhullo на базе meta-llama/Llama-3.2-1B-Instruct с использованием библиотеки TRL. Она предназначена для диалогов и генерации ответов в формате чата; метаданные также указывают интерфейс для вызова инструментов. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 1,2 млрд параметров. Заявленная длина контекста — 131 072 токена. В карточке указан английский язык. Модель распространяется под лицензией Apache-2.0.

lenML создал версию Aya Expanse 8B, обработанную методом abliteration для снижения склонности модели отказывать в ответах. Это плотная причинно-языковая модель семейства Cohere с 8 млрд параметров; она рассчитана на генерацию текста и диалоговое общение. В метаданных указаны контекст до 8192 токенов и поддержка 23 языков: английского, французского, немецкого, испанского, итальянского, португальского, японского, корейского, китайского, арабского, греческого, персидского, польского, индонезийского, чешского, иврита, хинди, нидерландского, румынского, русского, турецкого, украинского и вьетнамского. По оценке автора на lenml-reject-eval, обработка снизила показатель отказов с 0,91 до 0,50, но модель всё ещё часто отказывает по сравнению с полностью разблокированными моделями. Это не означает гарантированного снятия ограничений и не является оценкой общей безопасности или качества. Модель распространяется по лицензии CC BY-NC 4.0, которая не разрешает коммерческое использование.

BabyHydra-dare — объединённая методом DARE-TIES языковая модель на архитектуре Mistral, созданная автором репозитория из нескольких моделей, включая WizardMath-7B-V1.1 и Slerp-CM-mist-dpo. В конфигурации слияния также указана OpenPipe/mistral-ft-optimized-1218 как базовая модель. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста. В README не приведены отдельные инструкции или результаты оценки, поэтому конкретные преимущества слияния и качество на задачах нельзя установить по доступным данным. Репозиторий содержит веса в формате safetensors; сведения о лицензии отсутствуют в предоставленных источниках.

Bacchus-22B — текстовая генеративная модель семейства Llama, созданная Envoid. Она объединяет Nous Hermes 13B и Manticore-30b-Chat-Pyg-Alpha-Landmark с помощью block diagonal merge, а затем дообучена LoRA на 51 МБ текстовых данных. Модель содержит 21,6 млрд параметров, принимает текст и рассчитана на контекст до 4096 токенов. Модель предназначена для генерации текста общего назначения, следования инструкциям в формате Alpaca и ролевых диалогов. В README отмечены связные ответы и пригодность для разных сценариев, включая ролевые игры с SillyTavern и SimpleProxy. Качество ответов может быть неравномерным: при ролевой игре возможны грамматические ошибки, грубость, чрезмерное развитие сцены или, при некоторых форматах подсказок, слишком короткие и невыразительные ответы. Модель может генерировать контент для взрослых. Лицензия в предоставленных данных не указана.

Это GGUF-квантизированная версия языковой модели badger-lambda-llama-3-8b, разработанной maldv и подготовленной квантизатором bartowski. Модель основана на архитектуре Llama 3, содержит 8 млрд параметров и предназначена для генерации текста. Квантизация выполнена с использованием llama.cpp версии b3130 и метода imatrix, что позволяет запускать модель в форматах с различным соотношением качества, скорости и требований к памяти. Модель подходит для локального инференса и текстовых сценариев, включая диалоговую генерацию и обработку запросов в формате system/user/assistant. Доступны варианты от Q8_0 размером 8,54 ГБ до IQ2_XS размером 2,60 ГБ. Наиболее качественными считаются Q8_0 и Q6_K, а варианты Q5 и Q4 рекомендуются как компромисс между качеством и потреблением памяти; низкобитные варианты Q3 и Q2 требуют меньше ресурсов, но заметно уступают по качеству. В README не указаны поддерживаемые языки, длина контекста, точные характеристики исходной модели и результаты независимых тестов. Модель работает только с текстом, а качество и требования к ресурсам зависят от выбранного варианта квантизации. Лицензия — CC BY-NC 4.0, допускающая использование с некоммерческими ограничениями.

Baichuan2-7B-Chat-LLaMAfied — это преобразованная в архитектуру LLaMA версия чат-модели Baichuan2-7B-Chat, разработанной Baichuan Inc. Модель содержит 7 млрд параметров, использует плотную архитектуру LlamaForCausalLM и предназначена для генерации текста в диалоге и дообучения под прикладные задачи. Она работает с китайским и английским языками, принимает текст и выдаёт текст; заявленный контекст — 4096 токенов. Модель распространяется в формате PyTorch по лицензии Baichuan2 License, обозначенной в метаданных как other. Авторы указывают возможность дообучения и приводят результаты на бенчмарках ARC и HellaSwag. Для работы с моделью README указывает Transformers и демонстрационный запуск через LLaMA-Factory.

ERNIE-4.5-21B-A3B-Thinking-GGUF — это квантизированная версия языковой модели ERNIE-4.5-21B-A3B-Thinking, разработанной Baidu. Данный репозиторий подготовлен пользователем bartowski в формате GGUF с использованием llama.cpp и калибровочных imatrix-данных. Модель предназначена для генерации текста и локального запуска в llama.cpp, LM Studio и других совместимых проектах. В README указано, что доступны варианты от исходных весов BF16 размером 43,66 ГБ до различных квантований Q8, Q6, Q5, Q4, Q3 и IQ. Обозначение 21B указывает на заявленный размер модели, однако дополнительные сведения об архитектуре, числе активных параметров, контекстном окне, поддерживаемых языках и модальностях в предоставленных данных отсутствуют. Формат GGUF и набор квантований позволяют выбирать компромисс между качеством, потреблением памяти и скоростью локального вывода; наиболее качественными названы варианты Q6_K_L и Q6_K, а Q4_K_M описан как рекомендуемый вариант стандартного размера. Ограничения включают снижение качества при использовании более компактных квантований, особенно Q3 и некоторых IQ-вариантов, а также отсутствие указанного в README шаблона промпта. Лицензия модели и условия её использования в предоставленных данных не указаны, поэтому их следует уточнить на странице исходной модели Baidu.

BananaMind-1.0-Instruct-i1-GGUF — это GGUF-квантизированная версия модели BananaMind-1.0-Instruct, разработанная BananaMind и преобразованная в квантизированные файлы пользователем mradermacher. Модель предназначена для генерации текста и выполнения инструкций в сценариях, совместимых с causal language modeling, включая диалоговые и прикладные задачи на основе текстовых запросов. В метаданных указаны архитектурные семейства GPT-2 и GPT-2-XL, однако точный размер модели и максимальная длина контекста не приведены. Поддерживается английский язык. Доступны многочисленные варианты GGUF-квантизации с размерами примерно от 0,9 до 1,6 ГБ, включая IQ- и Q-серии; варианты различаются компромиссом между размером, скоростью и качеством. Для создания собственных квантизированных версий предоставляется imatrix-файл. Ограничения включают возможное снижение качества у наиболее агрессивных вариантов квантизации и отсутствие данных о результатах тестирования, мультимодальности, точном контексте и других языках. Модель распространяется по лицензии Apache-2.0.

Beetle-bilingual-balanced-b1-fineweb-2b-nld-eng-seed101 — генеративная языковая модель из семейства Beetle-FineWeb, опубликованная на Hugging Face и предназначенная для продолжения и генерации текста. По идентификатору модели она рассчитана на нидерландский и английский языки и имеет размер около 2 млрд параметров; в метаданных также указаны архитектурный компонент pico_decoder и библиотека Transformers. Модель подходит для генерации связного текста, черновиков, перефразирования, простых диалоговых сценариев и языковых экспериментов на нидерландском и английском языках. Точные сведения о разработчике, лицензии, контексте, обучающих данных, результатах оценки и рекомендованных сценариях использования в карточке модели отсутствуют. Перед применением в продуктивных системах модель следует дополнительно проверить на качество для нужного языка и домена, устойчивость к фактическим ошибкам и наличие нежелательных смещений. Условия лицензирования в доступных данных не указаны.

Beetle-FineWeb2-24B/beetle-bilingual-l2-50-sequential-33-67-b3-fineweb-deu-eng — двуязычная модель генерации текста, опубликованная на Hugging Face в формате Transformers. По идентификатору она предназначена для работы с немецким и английским языками; карточка модели указывает задачу text-generation и размер около 0,2 млрд параметров. Модель использует формат Safetensors и требует поддержки пользовательского кода при загрузке.

BigHuggyD-Grey-WizardLM-2-8x22B — экспериментальное слияние предварительно обученных языковых моделей, опубликованное BigHuggyD и созданное с помощью mergekit методом Model Stock на базе alpindale/WizardLM-2-8x22B. В слияние вошли также Karasu-Mixtral-8x22B-v0.1, Eurux-8x22b-nca, Dolphin-2.9.2-Mixtral-8x22B, Tess-2.0-Mixtral-8x22B и Mixtral-8x22B-Instruct-Oh. Модель предназначена для генерации текста и диалогового общения. Она использует архитектуру Mixtral MoE с классом MixtralForCausalLM, содержит 22 млрд параметров и поддерживает контекст до 65 536 токенов. Репозиторий предоставляет веса в формате safetensors для библиотеки Transformers. В README автор называет модель небольшим экспериментом по слиянию, поэтому её качество и преимущества относительно включённых моделей не подтверждены. Языки и условия лицензирования в предоставленных данных не описаны.

BigWeave v29 122b — экспериментальная плотная языковая модель семейства Llama, созданная llmixer с помощью слияния слоёв модели 152334H/miqu-1-70b-sf. В модели 121,8 млрд параметров; слои повторяются группами по четыре с перекрытием в два слоя, при этом первые и последние слои не повторяются. Заявленная длина контекста — 32 764 токена. Модель предназначена для генерации текста и диалогов. В README указаны форматы запросов ChatML, Mistral и Vicuna. Проект экспериментирует с настройками слияния, поэтому номер версии не отражает качество; лицензия в метаданных обозначена как неизвестная.

BigWeave v32 96b — экспериментальная языковая модель, созданная llmixer с помощью self-merge модели meta-llama/Meta-Llama-3-70B-Instruct. При слиянии продублированы средние слои и масштабированы матрицы; модель использует архитектуру Llama и предназначена для генерации текста и диалогов в формате prompt llamav3. В ней 95,2 млрд параметров, контекстное окно — 8192 токена; репозиторий содержит веса Safetensors. Карточка описывает серию экспериментов по настройке параметров слияния, а номер версии не отражает качество. Модель распространяется по лицензии Llama 3.

BQTrans-3-1 — языковая модель семейства Qwen2, опубликованная пользователем SKNahin. По README, модель обучена с нуля на неизвестном наборе данных; дополнительных сведений о разработчике и обучении нет. Модель предназначена для генерации текста и поддерживает диалоговый режим и интерфейс вызова инструментов. Она построена на плотной архитектуре Qwen2ForCausalLM, содержит около 532,1 млн параметров и имеет контекст длиной до 131 072 токенов. Модель доступна в формате safetensors и использует библиотеку Transformers. README не приводит результатов оценки, конкретных сценариев применения или ограничений качества; пригодность для практических задач следует проверять отдельно. Условия лицензирования в предоставленных данных не указаны.

QuantFactory/Buzz-8b-Large-v0.5-GGUF — квантованная версия языковой модели Buzz-8b-Large-v0.5, разработанной Alignment Lab AI совместно с Hive Digital Technologies. Модель создана на базе существующих предварительно обученных моделей и дорабатывалась с применением итеративного fine-tuning, отбора и улучшения данных. Релиз в формате GGUF подготовлен с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска, включая сценарии персонального использования, экспериментов с языковыми моделями и построения чат-систем. Она работает преимущественно как completion-модель: по умолчанию продолжает переданный текст. Для диалогового режима README рекомендует добавлять специальные токены завершения и начала текста, а также обозначение роли ассистента. Заявлен английский язык. Ключевая характеристика модели — размер около 8 миллиардов параметров и поддержка формата GGUF, удобного для инференса через совместимые инструменты llama.cpp. Точные параметры квантования, размер контекстного окна, перечень доступных вариантов GGUF и результаты бенчмарков в README не указаны. Ограничениями являются completion-ориентированное поведение и необходимость правильно формировать промпт для стабильного диалога. Модель распространяется по лицензии Apache-2.0.

CAMEL-33B-Combined-Data — диалоговая большая языковая модель, разработанная командой CAMEL-AI и полученная дообучением LLaMA-33B. Модель содержит 32,3 млрд параметров, использует плотную архитектуру LLaMA и доступна в формате PyTorch; её контекст составляет 2048 токенов. Модель предназначена для генерации ответов в диалоге и выполнения инструкций. При дообучении использовали 229 тысяч диалогов, собранных фреймворком CAMEL, 100 тысяч англоязычных диалогов ShareGPT и 52 тысячи инструкций Alpaca. Для общения применяется шаблон FastChat Vicuna-13B-1.1. В карточке приведены результаты офлайн-оценки, включая средний балл 50,79 в таблице Open LLM Leaderboard. Модель ориентирована на англоязычные диалоги. Лицензия CC BY-NC 4.0 разрешает использование только на некоммерческих условиях. Результаты оценки не гарантируют качество в конкретных приложениях; контекст ограничен 2048 токенами.

CaPlatTessDolXaBoros Yi 34B 200K DARE Ties Highdensity — это языковая модель для генерации текста на базе архитектуры Yi с 34 миллиардами параметров. Исходную модель разработал brucethemoose, а представленный репозиторий подготовил TheBloke в формате GGUF. В карточке указано, что модель предназначена для текстовой генерации и ориентирована на английский язык. Модель доступна в квантованных вариантах GGUF с разной разрядностью, включая 2-, 3-, 4-, 5-, 6- и 8-битные версии. Это позволяет запускать её с использованием CPU и GPU через llama.cpp и совместимые приложения, библиотеки и пользовательские интерфейсы. Для работы заявлен шаблон запросов Orca-Vicuna с секциями SYSTEM, USER и ASSISTANT. К сильным сторонам относятся большой размер модели, поддержка различных уровней квантования и возможность локального запуска на широком наборе программных платформ. К ограничениям относятся отсутствие в README результатов тестирования, подробных сведений о качестве, мультимодальности и фактическом размере контекста; заявлен только английский язык. Квантование уменьшает требования к памяти, но может снижать точность по сравнению с исходной моделью. Лицензия указана как yi-license; применяются условия лицензии Yi, приведённой в карточке.

Карточка модели AmberYifan/capsd-less-ultra-humaneval-opc-marin-8b-base-code_less_b8000_s0 на Hugging Face совпадает с карточкой AmberYifan/capsd-less-humaneval-opc-marin-8b-base-code_less_b8000_s0, поэтому описание составлено по ней. AmberYifan/capsd-less-humaneval-opc-marin-8b-base-code_less_b8000_s0 — дообученная модель на архитектуре Llama для генерации и продолжения текста. Она основана на marin-community/marin-8b-base и обучена на наборе capsd_marin-8b-base-n80000-opc__mix_code_less_b8000_s0. Модель содержит 7,5 млрд параметров, рассчитана на контекст до 4096 токенов и использует формат Safetensors; для работы применяется библиотека Transformers. Модель предназначена для генерации текста в формате text-generation и поддерживает чатовый сценарий. Карточка не приводит подробностей об обучающих данных, оценке качества или конкретных возможностях модели. Лицензия указана как other, поэтому условия использования следует уточнить в репозитории модели.

AmberYifan/capsd-marin-8b-base-code_ifd_b14000_s0 — дообученная модель семейства Llama, созданная на основе marin-community/marin-8b-base. Она содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и предназначена для генерации текста; в метаданных также отмечена возможность диалогового взаимодействия. Модель обучалась на наборе capsd_marin-8b-base-n80000-opc__mix_code_ifd_b14000_s0, название которого указывает на примесь кода в данных, но карточка не описывает конкретные возможности модели. Модель принимает текст и генерирует текст. Длина контекста составляет 4096 токенов. Базовая Marin 8B Base описана как англоязычная, однако сведения README не подтверждают отдельно языки или качество этой версии. Лицензия указана как other; конкретные условия использования в карточке не приведены.

Captain_BMO-12B — экспериментальная разговорная языковая модель Nitral-AI на архитектуре MistralForCausalLM с 12,1 млрд параметров. Она обучена на базе Mistral Nemo 12B Instruct: автор сообщает о дообучении на случайной выборке из 200 тысяч примеров GU_instruct-Remastered-1.1 с добавлением 25 тысяч примеров hathor/poppy в течение трёх эпох. Модель использует форматирование Mistral и предназначена для генерации текста в режиме завершения и чата; в интерфейсе также предусмотрен вызов инструментов. Автор описывает выпуск как разовый внутренний эксперимент, который показался достаточно удачным для публикации, и не обещает дальнейшей поддержки. В метаданных указан контекст до 1 024 000 токенов, однако автор предупреждает, что результаты могут заметно зависеть от размера контекста и сценария использования. Репозиторий содержит веса в формате Safetensors. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой модели.

fecia/cates_phi3_1 — чат-модель на архитектуре Phi-3, созданная разработчиком fecia как SFT-дообучение microsoft/Phi-3-mini-4k-instruct на обучающей части собственного датасета fecia/cates с помощью Phinetune. Модель предназначена для генерации текста в диалоговом формате; её можно применять для ответов на запросы и ведения беседы. Модель содержит 3,7 млрд параметров, использует плотную архитектуру Phi3ForCausalLM и формат весов safetensors. Нативный контекст — 4096 токенов; в описании процесса обучения указан максимальный размер последовательности 2048 токенов. Лицензия — Apache-2.0. README не приводит сведений о специализации по языкам или прикладным областям.

Cathallama-70B-GGUF — это квантованные версии текстовой генеративной модели Cathallama-70B, разработанной gbueno86 и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp и совместимые приложения, включая LM Studio. README указывает английский язык и происхождение модели, связанное с mergekit, однако подробности исходной архитектуры и состава объединённых моделей не приведены. Доступны варианты квантования от IQ1_M и Q2 до Q8_0 с размером файлов примерно от 16,75 до 74,98 ГБ. Более качественными и рекомендуемыми названы Q6_K, Q5_K_M, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; низкобитные варианты экономят память, но снижают качество. Некоторые версии используют Q8_0 для embedding- и output-весов. Формат GGUF и применение imatrix-калибровки ориентированы на эффективный локальный инференс, но требования к памяти остаются высокими из-за размера модели. Сведения о длине контекста, поддерживаемых модальностях помимо текста и результатах benchmark-тестов отсутствуют. Модель распространяется по лицензии llama3.1. Для работы рекомендуется использовать указанный в README шаблон prompt в стиле Llama 3.1 и совместимое программное обеспечение.