II.2Создание и понимание программного кода

Reflection-Llama-3.1-70B-GGUF — набор GGUF-квантизованных версий модели, опубликованный leafspark и основанный на mattshumer/ref_70_e3. Модель дообучена с применением LoRA ранга 256 на Llama-3.1-70B-Instruct и предназначена для генерации текста, диалогов и задач, требующих рассуждений. Заявленная особенность — Reflection-Tuning: модель должна выявлять ошибки в рассуждении и корректировать ход решения с использованием секций <thinking>, <reflection> и <output>. Это текстовая авторегрессионная модель семейства Llama с примерно 70 млрд параметров. Поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель использует стандартный формат чата Llama 3.1 и доступна в вариантах от FP16 размером около 141 ГБ до сильно квантизованных сборок; приведённые размеры отдельных вариантов находятся примерно в диапазоне от 14,6 до 57,9 ГБ. Для некоторых вариантов применялась калибровка iMatrix. Сильной стороной заявляется способность к явному самопроверяемому рассуждению, однако авторы README предупреждают, что опубликованные результаты бенчмарков, вероятно, недостоверны и не воспроизводятся. Также отмечается неопределённость исходного обучения и возможная фиктивность связанной версии модели, поэтому характеристики качества следует проверять самостоятельно. Для запуска рекомендуется системный промпт из README, температура 0,7 и Top P 0,95. Модель распространяется по лицензии llama3.

Rhombus18 Rhododendron Professor 1o — дообученная языковая модель семейства Qwen3, разработанная пользователем rhombus18 на основе unsloth/qwen3-32b-bnb-4bit. Модель имеет плотную архитектуру Qwen3ForCausalLM и содержит 29,7 млрд параметров. Карточка указывает обучение с помощью Unsloth и библиотеки TRL от Hugging Face; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Она поддерживает английский язык и контекст длиной до 128 000 токенов. В README не описаны специализированные области применения или результаты оценки качества, поэтому пригодность для конкретных задач следует проверять отдельно. Лицензия — Apache 2.0.

MaziyarPanahi/samantha-mistral-7b-Mistral-7B-Instruct-v0.1 — чат-модель, полученная слиянием Mistral-7B-Instruct-v0.1 и cognitivecomputations/samantha-mistral-7b методом SLERP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров для генерации ответов на инструкции и ведения диалогов; заявленная длина контекста — 32 768 токенов. Модель принимает текст и генерирует текст. Модель подходит для диалоговых ассистентов и ответов на запросы на естественном языке. Репозиторий содержит веса Safetensors, лицензия — Apache 2.0. В метаданных не указаны отдельные языки или специализированные прикладные области.

StrangeMerges_8-7B-slerp — объединённая методом SLERP языковая модель, созданная Gille с помощью LazyMergekit на основе Gille/StrangeMerges_7-7B-slerp и Gille/StrangeMerges_5-7B-ties. Это плотная архитектура Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалоговых ответов; поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Модель подходит для создания диалоговых приложений, генерации продолжений текста и ответов на запросы в длинном контексте. В README приведены результаты оценки на отдельных бенчмарках Open LLM Leaderboard, включая AI2 Reasoning Challenge и HellaSwag; эти результаты не гарантируют качество на других задачах. Язык модели в предоставленных материалах не уточнён. Лицензия — Apache-2.0. Сведения о специальных ограничениях или целевых предметных областях в карточке не приведены.

Это объединённая модель генерации текста на архитектуре Llama, созданная с помощью mergekit методом della_linear. В качестве базовой использована Orenguteng/Llama-3.1-8B-Lexi-Uncensored-V2; также объединены Solshine/reflection-llama-3.1-8B, три версии ArliAI/Llama-3.1-8B-ArliAI-RPMax и Skywork-o1-Open-Llama-3.1-8B. Размер модели — 7,5 млрд параметров, формат весов — safetensors. Модель предназначена для диалоговой генерации текста и ответов на инструкции. Контекстное окно составляет до 131 072 токенов; метаданные также указывают интерфейс вызова инструментов. Карточка не приводит оценки качества или результаты тестирования. Лицензия в предоставленных сведениях не указана.

TriMistral-7B-TIES — объединённая модель для генерации текста и диалогов, созданная Muhammad2003 методом TIES с помощью LazyMergekit. В слиянии использованы NousResearch/Hermes-2-Pro-Mistral-7B и instructlab/merlinite-7b-lab; конфигурация также указывает HuggingFaceH4/zephyr-7b-beta как базовую модель. Модель построена на плотной архитектуре Mistral с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Карточка приводит результаты бенчмарков AI2 Reasoning Challenge и HellaSwag, но не описывает специализированные сценарии или гарантии качества. Репозиторий содержит веса в формате safetensors; лицензия — Apache 2.0.

Twilight-Large — плотная языковая модель на архитектуре Mistral с 122,2 млрд параметров, созданная автором softwareweaver с помощью mergekit. Она объединяет Mistral-Large-Instruct-2407, lumikabra-123B_v0.4 и Behemoth-123B-v1 методом della_linear; в качестве базовой использована Mistral-Large-Instruct-2407. Модель предназначена для генерации текста в диалоговом формате и использует формат запросов Mistral Large. Модель принимает текст и генерирует текст. Заявленная длина контекста — 131 072 токена. В карточке упоминаются интерфейс вызова инструментов и возможность использовать control vectors для настройки генерации; качество этих возможностей не оценено в приведённых материалах. Репозиторий содержит веса в формате safetensors. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензиями базовых моделей и карточкой репозитория.

Yi-1.5-34B-Chat-GGUF — квантизированная версия чат-модели Yi-1.5-34B-Chat, разработанной 01-ai и преобразованной в формат GGUF компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая использование через LlamaEdge. Для работы применяется шаблон запросов ChatML и контекст длиной до 7168 токенов. Модель имеет размер 34 млрд параметров; в README не указаны поддерживаемые языки и модальности, поэтому её следует рассматривать как текстовую. Доступны варианты с разной степенью квантизации от Q2_K до Q8_0, а также версии f16. Вариант Q4_K_M рекомендован как сбалансированный по размеру и качеству, тогда как Q5_K_M и Q5_K_S обеспечивают меньшее снижение качества при большем потреблении памяти. Более сильная квантизация уменьшает размер файлов и требования к ресурсам, но может заметно ухудшать качество ответов. Модель распространяется по лицензии Apache-2.0. Для запуска с LlamaEdge в README указана версия, которая на момент публикации ещё не была доступна; приведены команды для сервиса и консольного приложения. Размеры файлов зависят от варианта квантизации и составляют примерно от 12,8 до 36,5 ГБ.

argilla/zephyr-7b-spin-iter3-v0 — диалоговая языковая модель, созданная Argilla и сообществом Data Is Better Together. Это дообученная версия argilla/zephyr-7b-spin-iter2-v0 на тщательно отобранных наборах argilla/10k_prompts_SPIN_iter3_zephyr_top и argilla/10k_prompts_SPIN_iter2_zephyr_top; авторы отмечают, что подход SPIN достиг сопоставимых результатов при значительно меньшем объёме данных. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров. Она предназначена для генерации текста в диалоговом формате и рассчитана на контекст до 32 768 токенов. В README приведены результаты MT-Bench для предыдущих итераций семейства, но отдельные оценки для iter3 не указаны. Модель распространяется под лицензией Apache-2.0. Карточка не описывает специальные предметные области и не приводит подробных ограничений; применимость ответов следует оценивать для конкретной задачи.

Это исследовательский резервный чекпойнт причинной языковой модели семейства Qwen2, опубликованный пользователем yuq-zhou в стандартном формате Hugging Face. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; метаданные также отмечают поддержку чата и интерфейса вызова инструментов. Максимальная длина контекста составляет 16 384 токена. Модель подходит для генерации текста и диалогов, а также для экспериментов с интерфейсом вызова инструментов. В README она обозначена как резервная копия исследовательского артефакта; назначение суффиксов в имени чекпойнта не поясняется. Доступны веса в формате safetensors, лицензия в предоставленных данных не указана.

Это зеркальная копия модели Qwen2 для генерации текста, размещённая пользователем latent-artist. Метаданные указывают на архитектуру Qwen2ForCausalLM с плотной структурой и 494 млн параметров; репозиторий содержит веса в формате Safetensors. Модель рассчитана на текстовые диалоги и имеет интерфейс вызова инструментов. Контекстное окно составляет 32 768 токенов, а в карточке указан английский язык. README описывает репозиторий как копию файлов и сообщает, что конфигурация и веса сохраняют исходное назначение. Условия использования и распространения предлагается сверять с файлом лицензии; метаданные указывают Apache-2.0. Исходная модель, от которой сделана копия, не установлена по доступным сведениям.

AeolusBlend-7B-slerp — языковая чат-модель, созданная слиянием OpenPipe/mistral-ft-optimized-1218 и HuggingFaceH4/zephyr-7b-beta методом SLERP с помощью LazyMergekit. Она предназначена для генерации текста, ответов на вопросы и выполнения пользовательских инструкций в диалоге. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Поддерживает контекст длиной до 32 768 токенов; опубликованные веса представлены в формате safetensors. В карточке также приведён пример инференса с 4-битной квантизацией, но это не формат весов данного репозитория. Модель объединяет возможности двух исходных чекпойнтов, однако README не приводит сравнительных оценок качества или подробных результатов тестирования. Лицензия в предоставленных данных не указана.

Tongyi-DeepResearch-30B-A3B-GGUF — это GGUF-квантизированная версия языковой модели Tongyi-DeepResearch-30B-A3B, разработанной Alibaba-NLP. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. В репозитории доступны варианты от BF16 до низкобитных IQ- и Q-квантизаций размером примерно от 14 до 61 ГБ. В названии модели указана конфигурация 30B-A3B, однако подробности архитектуры, модальностей, поддерживаемых языков и размера контекста в README не приведены. Некоторые варианты, включая Q6_K_L, Q6_K, Q5_K и Q4_K_M, обозначены как рекомендуемые; Q4_K_M описан как вариант стандартного размера для большинства сценариев. Ключевое преимущество сборки — возможность локального запуска с выбором компромисса между качеством, размером файла и требованиями к памяти. Более компактные квантизации подходят для систем с ограниченными ресурсами, но могут заметнее уступать по качеству исходным весам. Формат prompt в README не указан, поэтому его следует уточнять на странице исходной модели. Лицензия в предоставленных данных не указана.

TheBloke/alpaca-lora-65B-HF — версия модели alpaca-lora-65B в формате Hugging Face Transformers, опубликованная TheBloke. Это плотная авторегрессионная модель семейства LLaMA с 65 млрд параметров, предназначенная для генерации текста и диалоговых ответов по инструкциям. В README указано, что это объединённая модель без квантования; исходная карточка changsung не предоставлена, а происхождение и вариант обучающих данных автор README точно установить не смог. Предположительно, модель дообучена на данных Alpaca. Модель принимает текст и генерирует текст. Указанная длина контекста — 2048 токенов. Репозиторий содержит веса PyTorch и распространяется с лицензией, обозначенной как «other»; конкретные условия использования по имеющимся сведениям определить нельзя. Возможности и качество следует оценивать с учётом отсутствия исходной карточки модели и неопределённости в данных обучения.

Athene-V2-Chat-GGUF — набор квантизированных версий диалоговой языковой модели Athene-V2-Chat, разработанной Nexusflow и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста в чат-сценариях и локального инференса, в том числе через LM Studio и совместимые инструменты llama.cpp. В README указан английский язык и текстовая модальность; исходная архитектура, число параметров и размер контекстного окна не приведены. Модель доступна в вариантах квантизации Q2–Q8 и IQ2–IQ4 с размерами файлов примерно от 25,49 до 77,26 ГБ. Старшие варианты Q5–Q8 обеспечивают более высокое качество, тогда как младшие требуют меньше оперативной памяти, но заметно уступают по качеству. Некоторые варианты используют Q8_0 для весов embedding и output, а Q4_0_8_8 оптимизирован для ARM с поддержкой SVE и не рекомендуется для Mac или Windows. Указан специальный формат prompt с ролями system, user и assistant. Лицензия обозначена как other, без дополнительных условий в представленном README.

mradermacher/atom-27b-i1-GGUF — набор квантованных моделей в формате GGUF, созданный mradermacher на основе vanta-research/atom-27b. Модель относится к семейству Gemma и предназначена для генерации текста, диалоговых сценариев, чат-ботов, ролевого общения и задач, связанных с рассуждением и исследованием поведения и взаимодействия человека с ИИ. В метаданных указан английский язык и библиотека Transformers. Модель имеет около 27 млрд параметров в исходной версии. README также описывает её как vision-модель, поэтому для работы с изображениями могут потребоваться отдельные файлы mmproj из статического репозитория. В данном наборе представлены варианты imatrix-квантизации с разными уровнями сжатия: от IQ1_S размером около 6,4 ГБ до Q6_K размером около 22,3 ГБ. В качестве сбалансированного варианта размера, скорости и качества рекомендован i1-Q4_K_S, а i1-Q4_K_M отмечен как быстрый и рекомендуемый. Основное преимущество набора — возможность запуска крупной модели при существенно меньшем потреблении памяти, а imatrix-квантизация может обеспечивать лучшее качество по сравнению с сопоставимыми вариантами. Ограничения зависят от выбранного уровня квантизации: самые компактные варианты имеют низкое качество, тогда как более качественные требуют больше памяти. Контекстное окно, точный набор поддерживаемых языков, результаты оценки и практические системные требования в README не указаны. Лицензия исходной модели обозначена как Gemma; условия использования следует проверять в соответствии с лицензией Gemma и исходной моделью.

Генеративная языковая модель семейства Llama с примерно 7,5 млрд параметров, опубликованная на Hugging Face в формате, совместимом с библиотекой Transformers. По метаданным модель предназначена для генерации текста и поддерживает разговорный сценарий использования. Разработчик, точная архитектура, языки обучения и лицензия в доступных материалах не указаны. Модель может применяться для продолжения текста, создания ответов на сообщения, ведения диалога и встраивания в приложения на базе Transformers. Максимальная длина контекста составляет 8192 токена, что позволяет учитывать достаточно объёмную историю диалога или исходный документ. К сильным сторонам относятся относительно крупный размер для локальной генеративной модели и поддержка стандартной экосистемы Transformers. Ограничения связаны с отсутствием в карточке сведений о данных обучения, результатах оценки, безопасности, языковом покрытии, точной конфигурации и лицензии; ответы модели необходимо проверять, особенно в фактически значимых сценариях.

Badger/δ Llama 3 Instruct 32k — чат-модель семейства Llama 3, созданная автором maldv путём рекурсивной интерполяции и объединения нескольких моделей. В репозитории указано, что для неё настроен масштаб RoPE 4; автор сообщает, что ответы сохраняют связность при контексте 16–32 тыс. токенов. Метаданные указывают 7,5 млрд параметров, архитектуру LlamaForCausalLM, формат safetensors и нативный контекст 8192 токена. Модель предназначена для диалоговой генерации текста и инструктивных запросов. В README приведены результаты оценки на Open LLM Leaderboard, включая средний балл 69,49, но этих результатов недостаточно, чтобы судить о качестве во всех задачах. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование; перед применением следует соблюдать её условия.

calme-3.2-instruct-78b-GGUF — это квантизированная версия инструкционной языковой модели calme-3.2-instruct-78b, разработанной MaziyarPanahi и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в локальных приложениях на базе llama.cpp и LM Studio. В README указана поддержка английского языка и шаблон чата с ролями system, user и assistant. Модель основана на Qwen2.5-72B-Instruct, но имеет заявленный размер 78B параметров. Это текстовая модель без заявленной поддержки изображений или других модальностей. Доступны варианты квантизации от Q2_K до Q8_0 с размером файлов примерно от 31,85 до 82,85 ГБ. Варианты Q6_K, Q5_K_M, Q5_K_S и Q4_K_M отмечены как рекомендуемые; более компактные варианты экономят память, но могут снижать качество. Длина контекста в предоставленных данных не указана. Сильная сторона модели — широкий выбор квантизаций для локального запуска и использование imatrix-квантизации, направленной на сохранение качества. Ограничения включают высокие требования к оперативной или видеопамяти, снижение качества в низкобитных вариантах и отсутствие сведений о результатах оценки. Лицензия обозначена как other с ссылкой на лицензию Qwen/Qwen2.5-72B-Instruct; перед использованием необходимо учитывать условия этой лицензии.

Edens-Gate/Control-8B-V1.1-abliteration — объединённая языковая модель, созданная с помощью mergekit методом task arithmetic на основе Delta-Vector/Control-8B-V1.1 и grimjim/Llama-3-Instruct-abliteration-LoRA-8B. Это плотная архитектура семейства Llama с примерно 7,5 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Модель принимает текст и выдаёт текст; заявленная длина контекста — 131072 токена. Модель опубликована в формате safetensors и использует библиотеку Transformers. Метаданные не содержат сведений о лицензии, поэтому условия использования по имеющимся данным определить нельзя. Карточка описывает метод слияния, но не приводит оценок качества или подробных ограничений применения.

evomodel-1.9 — настраиваемая версия Qwen-3.5 9B, выпущенная в формате GGUF для запуска через llama.cpp. Модель дообучена с помощью LoRA-адаптера с параметрами r=8 и alpha=8, который затем объединён с базовой моделью. Поддерживает генерацию текста и диалоговый режим; заявленная длина контекста — до 262 тыс. токенов. Репозиторий содержит варианты Q8_0, NVFP4 и Q4_K_M; у NVFP4 и Q4_K_M эмбеддинги токенов и выходной слой сохранены в Q8_0. Для вызова инструментов модель выдаёт текст в специальном формате, который должен разбирать обслуживающий клиент: llama.cpp сам этот формат не обрабатывает. Лицензия — Apache-2.0.

MaziyarPanahi/Experiment26Yam_YamExperiment24 — объединённая модель семейства Mistral, созданная слиянием automerger/Experiment26Yam-7B и automerger/YamExperiment24-7B. Она предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель содержит 7,1 млрд параметров и представлена в формате safetensors. Лицензия — Apache-2.0.

Falcon-40B-Instruct — разработанная TII модель генерации текста с архитектурой Falcon: плотный декодерный трансформер, дообученный для диалогов и выполнения инструкций на основе Falcon-40B. В README указано 40 млрд параметров, тогда как метаданные Hugging Face сообщают 65 млрд; точный размер по этим источникам расходится. Архитектура использует rotary position embeddings, multiquery attention и FlashAttention. Модель предназначена для чат-ботов, ответов на вопросы и генерации текста по инструкциям. Она обучалась преимущественно на английских данных, а также поддерживает французский; дообучение проводилось на смеси Baize с небольшой долей RefinedWeb. Для быстрого запуска авторы указывают потребность примерно в 85–100 ГБ памяти. Модель доступна по лицензии Apache 2.0. Модель может воспроизводить предубеждения из веб-данных и слабо переносить навыки на языки, отличные от английского. Авторы рекомендуют оценивать риски и применять защитные механизмы перед использованием в производстве; instruct-версия может быть не лучшей отправной точкой для дальнейшего дообучения.

chanwit/flux-7b-base-stage-0 — объединённая языковая модель, созданная автором репозитория с помощью mergekit и метода SLERP из chanwit/flux-7b-base-stage-00 и Intel/neural-chat-7b-v3-3. Это плотная авторегрессионная модель архитектуры Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалогов. Она принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. В README описана схема слияния и указано представление весов в bfloat16; метаданные указывают формат safetensors и возможность диалога. Сведений о лицензии и языках в предоставленных источниках нет.

AALF/gemma-2-27b-it-SimPO-37K-100steps — чекпойнт Gemma 2 от AALF, обученный по методу SimPO для улучшения ответов в диалоге. Модель основана на Google Gemma 2 Instruct с 27,6 млрд параметров; это плотная авторегрессионная языковая модель для генерации текста и общения по инструкциям. Контекстное окно — 8192 токена. Для обучения использовали 37 040 примеров предпочтений, отобранных из HuggingFaceH4/ultrafeedback_binarized с помощью модели вознаграждения RLHFlow/ArmoRM-Llama3-8B-v0.1. В карточке приведён результат оценки AlpacaEval 2.0: win rate 77,09% и length-controlled win rate 79,16%. Модель подходит для чат-ботов, ответов на инструкции и сравнительных экспериментов по выравниванию языковых моделей. Лицензия — Gemma; применяются условия лицензии Google Gemma.

unsloth/gemma-2-9b-it — разговорная модель семейства Gemma 2 от Google, представленная в репозитории Unsloth. Это плотная причинная языковая модель на 9 млрд параметров с контекстом до 8192 токенов, предназначенная для генерации текста в диалоге и продолжения текста. В карточке описаны сценарии дообучения Gemma 2 с помощью Unsloth и 4-битной квантизации bitsandbytes, включая работу с шаблонами ShareGPT ChatML и Vicuna, а также экспорт дообученных моделей в GGUF и vLLM. Модель принимает текст и выдаёт текст; заявленная лицензия — Gemma. Метаданные указывают библиотеку Transformers и поддержку английского языка. Карточка сосредоточена на инструкциях по дообучению и не сообщает оценок качества или подробных ограничений самой модели.

gemma-2-9b-it-IMat-GGUF — это квантизированная версия текстовой instruction-tuned модели Google Gemma 2 9B IT, подготовленная legraphista в формате GGUF для использования с llama.cpp и совместимыми инструментами. Модель предназначена для генерации текста и диалоговых сценариев, включая локальные чат-приложения и задачи, где важны сниженные требования к памяти. В основе лежит модель google/gemma-2-9b-it с исходным форматом BF16 и примерно 9 миллиардами параметров. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K; размеры файлов составляют примерно от 3,8 до 18,5 ГБ. Для ряда вариантов с низкой разрядностью применена IMatrix-квантизация, предназначенная для улучшения сохранения качества при уменьшении размера. README не содержит сведений о поддерживаемых языках, длине контекста и мультимодальности; по указанным данным модель является текстовой. Основные преимущества — широкий выбор уровней квантизации, возможность локального запуска и наличие IMatrix-вариантов, позволяющих выбирать компромисс между качеством и потреблением памяти. Ограничения связаны с возможной потерей качества при сильной квантизации и с тем, что характеристики базовой модели, включая языковое покрытие и контекст, в карточке не раскрыты. Использование регулируется лицензией Gemma от Google; для доступа на Hugging Face требуется ознакомиться с условиями и принять лицензию.

GreenNode-mini-7B-multilingual-v1olet-Mistral-7B-Instruct-v0.1 — чат-модель, созданная слиянием Mistral AI и GreenNode. Она предназначена для генерации ответов на инструкции и диалоговые запросы. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров; в метаданных указан контекст длиной до 32 768 токенов. Слияние выполнено методом SLERP с настройками, различающимися для слоёв self-attention и MLP. Карточка заявляет многоязычную направленность, однако метаданные перечисляют только английский язык. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Guilherme34/Hermes3-Lumimaid-uncensored — объединённая с помощью mergekit методом TIES языковая модель на архитектуре Llama. В качестве основы использована Guilherme34/Hermes-3-Llama-3.1-70B-Uncensored, в объединение также вошла NeverSleep/Llama-3-Lumimaid-70B-v0.1-alt. Модель содержит 69,5 млрд параметров, распространяется в формате safetensors и рассчитана на контекст до 131 072 токенов. Модель предназначена для диалоговой генерации текста и общения в формате чата; метаданные также отмечают интерфейс вызова инструментов. Указание uncensored в названии и описании базовой модели отражает сниженные ограничения на ответы, но карточка не уточняет языки или конкретные области применения. Веса объединены с нормализацией и сохранены в float16. Лицензия в предоставленных данных не указана.

inf-o1-pi0-GGUF — это квантизированная версия модели infly/inf-o1-pi0, подготовленная пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. В README не указано, кто разработал исходную модель, кроме идентификатора организации infly. Доступны варианты от BF16 до низкобитных форматов Q8_0, Q6, Q5, Q4, Q3 и Q2, с размером файлов примерно от 12,31 до 65,54 ГБ. Указана поддержка китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Конкретные архитектура, число параметров, размер контекста и дополнительные модальности в README не раскрыты, поэтому модель следует рассматривать как текстовую. Сильная сторона набора — широкий выбор квантизаций, позволяющий подобрать баланс между качеством, требованиями к памяти и скоростью локального вывода; варианты Q6_K_L, Q6_K, Q5 и Q4 отмечены как рекомендуемые, а Q4_K_M описан как стандартный вариант для большинства сценариев. Более сильное сжатие уменьшает требования к ресурсам, но снижает качество, особенно у вариантов Q2 и Q3. Лицензия исходной модели и условия коммерческого использования в README не указаны.