I.2Синтез, понимание и проверка знаний

Turkish-Llama-8b-DPO-v0.1 — разговорная модель для генерации связного текста, разработанная командой ytu-ce-cosmos на базе Llama 3. README описывает её как новую итерацию CosmosLLaMa-Instruct DPO, полученную слиянием двух моделей DPO; метаданные каталога указывают базовую модель ytu-ce-cosmos/Turkish-Llama-8b-Instruct-v0.1 и связь дообучения. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Модель предназначена для продолжения заданного фрагмента и генерации текста с учётом контекста, в том числе в диалоговом формате. Она ориентирована на турецкий язык и распространяется в формате safetensors по лицензии Llama 3. В README отмечены возможные смещения в ответах из-за разнообразия обучающих данных, включающих сайты, книги и другие текстовые источники.

UNSEEN Gemma-4-26B NSFW-GGUF — квантованная версия модели, разработанная пользователем Jommarn на основе google/gemma-4-26B-A4B-it. По заявлению автора, базовая модель подверглась abliteration для ослабления ограничений на ответы, включая NSFW-сценарии. Репозиторий предназначен для запуска в форматах GGUF и других квантованиях на потребительских GPU, компьютерах Apple Silicon и через llama.cpp, а также может использоваться в LM Studio. Модель рассчитана на текстовые и визуально-текстовые задачи, включая анализ и подробное описание изображений. Заявлены поддерживаемые языки тайский и английский. Для работы с изображениями в формате GGUF требуется отдельный vision projector mmproj-gemma4-vision-f16.gguf; без него модель функционирует только как текстовая LLM. Доступны варианты квантования от 2 до 8 бит, 16-битная версия и соответствующие файлы для различных объёмов видеопамяти. Размер базовой модели указан как 26B, однако дополнительные сведения об архитектуре и размере контекста в README отсутствуют. К сильным сторонам относятся широкий выбор степеней квантования, возможность запуска на относительно доступном оборудовании и поддержка анализа изображений при наличии vision projector. Ограничения связаны с существенными требованиями к памяти для более точных вариантов, необходимостью отдельно загружать проектор для мультимодального режима и потенциально откровенным характером генерируемого контента. Лицензия в README не указана.

Это исследовательский контрольный чекпойнт Vanilla AttnResidual из коллекции OASIS, созданный на базе Qwen/Qwen3-0.6B. Модель предназначена для генерации текста и диалогов, а также для сравнения вариантов маршрутизации между слоями в исследовании Attention Sinks and Outliers in Attention Residuals. Веса содержат дополнительные модули AttentionResidual; для их корректной работы требуется код моделирования OASIS, поскольку стандартная загрузка через AutoModelForCausalLM отбросит эти параметры и не воспроизведёт вариант модели. Модель имеет плотную архитектуру Qwen3ForCausalLM и около 507,9 млн параметров. Она использует стандартный softmax для внимания между токенами и не включает null routing. Контекст — до 40 960 токенов. Лицензия Apache-2.0.

Vecteus-V2-7B — 7,1-миллиардная плотная языковая модель на архитектуре Mistral, созданная проектом Local-Novel-LLM-project с использованием векторного слияния моделей. Она предназначена для диалогов и широкого круга текстовых задач, включая создание текстов; для чата подходит шаблон Vicuna-v1.1. В README указано, что модель создана при поддержке высокопроизводительного GPU-сервера в рамках хакатона LocalAI, организованного сообществом, работающим с локальными LLM. Контекст модели составляет 8192 токена. Веса доступны в формате safetensors, библиотека для работы — Transformers. В рецепте слияния перечислены Vecteus, Neural Chat v3 и Ninja v2; точные идентификаторы исходных репозиториев не приведены. Лицензия — Apache-2.0. Модель рассчитана на японский язык согласно языковым метаданным. README не приводит оценки качества или подробные ограничения, поэтому пригодность для конкретных сценариев следует проверять на собственных данных.

Vicuna Baichuan-13B — диалоговая модель, созданная shibing624 дообучением Baichuan-13B-Chat на многоязычных диалогах GPT-4. Это плотная авторегрессионная языковая модель на архитектуре Baichuan с примерно 12,9 млрд параметров, предназначенная для генерации ответов и ведения диалога. Модель ориентирована на общие вопросы и ответы, открытый чат и медицинские вопросы; карточка приводит примеры ответов на китайском языке. Заявлена поддержка китайского и английского, а обучающий набор описан как многоязычный. В примерах заметны повторы и медицински сомнительные рекомендации, поэтому ответы о здоровье требуют проверки специалистом. Контекстное окно в карточке не указано. Модель распространяется под лицензией Apache-2.0.

VideoChat-Flash-Qwen2-7B_res224 — модель для диалога и ответов на вопросы о видео, разработанная OpenGVLab на основе UMT-L (300M) и Qwen2-7B. Она принимает видео и текстовые запросы, формируя текстовые ответы; модель использует 16 токенов на кадр и рассчитана на длинные видеопоследовательности. В README указана поддержка до примерно 10 000 кадров, а контекст Qwen2 в метаданных составляет 32 768 токенов; заявленное расширение контекста до 128k относится к Yarn. В README приведены результаты на MVBench, LongVideoBench и VideoMME, включая 73,2, 64,2 и 64,0 для версии 7B при разрешении 224. Обучающий корпус преимущественно англоязычный, поэтому рекомендуется задавать вопросы по-английски; понимание китайского описано как базовое. Репозиторий содержит веса safetensors, используется библиотека Transformers, лицензия — Apache-2.0.

VideoChat-Flash-Qwen2-7B_res448 — видеоязыковая модель OpenGVLab на базе Qwen2-7B и UMT-L. Она анализирует видео и отвечает на вопросы о его содержании в формате диалога. Модель использует 16 токенов на кадр; заявленная версия поддерживает последовательности примерно до 10 000 кадров. В README указано расширение контекста до 128 тыс. токенов с помощью YaRN, тогда как метаданные указывают native context в 32 768 токенов. В карточке приведены результаты на MVBench, LongVideoBench и VideoMME. Обучающий корпус преимущественно англоязычный: английский рекомендуется для взаимодействия, а понимание китайского описано как базовое. Репозиторий использует Transformers и формат safetensors. Лицензия — Apache-2.0.

QuixiAI/WizardLM-Uncensored-Falcon-40b — текстовая генеративная модель, созданная на основе tiiuae/falcon-40b. Разработчик дообучил Falcon 40B на подмножестве данных WizardLM, удалив из обучающих ответов высказывания с моральными наставлениями и ограничениями на содержание. Модель использует архитектуру RefinedWeb и формат диалога WizardLM. Модель предназначена для генерации ответов на запросы без встроенных ограничителей, включая сценарии, где правила поведения планируется задавать отдельно, например с помощью RLHF LoRA. Она принимает текстовые запросы и генерирует текст; README не задаёт отдельной специализации по языкам или прикладной области. Веса доступны в формате PyTorch, лицензия — Apache-2.0. Отсутствие встроенных ограничителей означает, что модель может выдавать нежелательный или вредоносный контент. Размер в метаданных указан как 65B, хотя в названии и README фигурирует Falcon 40B; это расхождение не позволяет однозначно определить точное число параметров.

grimulkan/Xwin-longLORA-70b-rope8-32k-fp16 — объединённая модель на архитектуре Llama, созданная из Xwin-LM-70B-V0.1 и LongAlpaca-70B-LoRA. Автор сообщает, что дополнительных этапов дообучения не проводилось: при объединении заменены слои эмбеддингов и нормализации по описанию LongLoRA, а также удалены лишняя строка словаря и токен заполнения, чтобы словари совпадали. Модель предназначена для генерации текста с возможностью экспериментировать с длинным контекстом: в карточке предложено проверить масштабирование RoPE в 8 раз для контекста 32K токенов. Метаданные указывают 68,7 млрд параметров и нативный контекст 4096 токенов; поддерживаемая языковая модель и отдельные языки не заявлены. Автор отмечает, что работоспособность результата не подтверждена. Лицензия — Llama 2.

Yi-Ko-6B-Instruct-v1.1 — корейская инструкция-ориентированная языковая модель, разработанная wkshin89 на основе beomi/Yi-Ko-6B. Это плотная авторегрессионная модель архитектуры Llama с 5,9 млрд параметров и контекстом до 2048 токенов. Она дообучена на корейских наборах инструкций, включая KOR-OpenOrca-Platypus-v3, KoAlpaca-v1.1a и ko_wikidata_QA, а также данных AIHub. Модель предназначена для генерации текста и ответов на инструкции в формате диалога «User» и «Assistant», прежде всего на корейском языке. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое. Контекст ограничен 2048 токенами; качество и фактическая точность ответов зависят от запроса и обучающих данных.

DevQuasar/zai-org.GLM-5.3-GGUF — экспериментальная GGUF-квантизованная версия модели GLM-5.3, разработанной организацией zai-org и опубликованной в формате, совместимом с llama.cpp. В README указано, что модель предназначена для генерации текста; приведён пример zero-shot-использования с квантизацией Q5_K_M. Ключевые характеристики ограниченно описаны: известны базовая модель GLM-5.3, формат GGUF и вариант квантизации Q5_K_M, однако сведения об архитектуре, размере, поддерживаемых языках, модальностях и длине контекста отсутствуют. Модель обозначена как экспериментальная и требует сборки llama.cpp из указанного merge request, поэтому совместимость и стабильность могут быть ограничены. Информация о лицензии и условиях использования в README не указана.

Zefiro base — языковая модель на 7,1 млрд параметров, разработанная giux78 и продолжающая предобучение Mistral-7B-v0.1 для итальянского языка. Это плотная авторегрессионная модель семейства Mistral, предназначенная для генерации текста и диалоговых сценариев; заявленная длина контекста — 32 768 токенов. Для дополнительного обучения использовались подмножества итальянских данных OSCAR и Wikipedia. Модель подходит для генерации и продолжения итальянского текста, а также для экспериментальных диалоговых приложений. Она распространяется в формате Safetensors по лицензии Apache-2.0. В README отмечено, что модель не проходила RLHF-выравнивание по предпочтениям людей и не использует фильтрацию ответов, поэтому может выдавать проблемное содержание; оценки в карточке приведены для другой модели Zefiro-DPO-7B и не подтверждают качество этой базовой версии.

EYEDOL/adtc-agri-sft-qwen2.5-1.5b-v2 — текстовая генеративная модель на базе архитектуры семейства Qwen2, опубликованная пользователем EYEDOL на Hugging Face. В метаданных указаны библиотека Transformers, размер около 1,5 млрд параметров и поддержка контекста до 32 768 токенов. По идентификатору модели она, вероятно, ориентирована на сельскохозяйственную тематику и была адаптирована методом supervised fine-tuning, однако README не содержит подтверждающих подробностей о разработчике, датасете и процедуре обучения.

AFM-4.5B-OpenMed-RL-CoT — медицинская дообученная версия Arcee AFM-4.5B от сообщества openmed-community. Модель с плотной архитектурой ArceeForCausalLM прошла SFT, DPO и GRPO для медицинских вопросов и ответов, следования инструкциям и обогащения рассуждений. Для обучения использовались синтетические медицинские данные, предпочтения на основе MedMCQA и проверяемые сигналы MedReason; также применялись примеры вызова поисковых инструментов. Модель рассчитана на текстовый диалог, поддерживает английский язык и контекст до 65 536 токенов. Модель подходит для исследовательских экспериментов и демонстраций медицинского поиска с привлечением внешних источников. В оценке авторов она превзошла базовую модель по MMLU и MMLU-Pro, но показала более низкий результат IFEVAL; результаты зависят от шаблонов и настроек оценки. Модель может галлюцинировать и не предназначена для диагностики, лечения, назначения препаратов или принятия срочных клинических решений. Лицензия — Apache-2.0.

Карточка модели soob3123/amoral-gemma3-12B-v2-qat на Hugging Face совпадает с карточкой soob3123/amoral-gemma3-27B-v2-qat, поэтому описание составлено по ней. Amoral-Gemma-3 — дообученная модель на архитектуре Gemma 3, разработанная автором репозитория soob3123 на основе google/gemma-3-27b-it-qat-q4_0-unquantized. Она предназначена для диалоговой генерации аналитически нейтральных ответов на чувствительные и спорные вопросы, с упором на фактическую точность, сдержанный тон и снижение оценочных формулировок. Модель содержит 28,3 млрд параметров, поддерживает контекст до 131 072 токенов и принимает текстовые запросы, выдавая текстовые ответы. В карточке заявлен английский язык; базовая модель Gemma 3 мультимодальна, однако эта версия указана как текстовая. Модель распространяется по лицензии Apache-2.0. README описывает желаемый стиль ответов, но не приводит количественных оценок качества или результатов сравнительных испытаний; нейтральность и фактическая точность зависят от запроса и могут не достигаться во всех случаях.

Amoral-Gemma-3 — дообученная модель на архитектуре Gemma 3, разработанная автором репозитория soob3123 на основе google/gemma-3-27b-it-qat-q4_0-unquantized. Она предназначена для диалоговой генерации аналитически нейтральных ответов на чувствительные и спорные вопросы, с упором на фактическую точность, сдержанный тон и снижение оценочных формулировок. Модель содержит 28,3 млрд параметров, поддерживает контекст до 131 072 токенов и принимает текстовые запросы, выдавая текстовые ответы. В карточке заявлен английский язык; базовая модель Gemma 3 мультимодальна, однако эта версия указана как текстовая. Модель распространяется по лицензии Apache-2.0. README описывает желаемый стиль ответов, но не приводит количественных оценок качества или результатов сравнительных испытаний; нейтральность и фактическая точность зависят от запроса и могут не достигаться во всех случаях.

Apertus-70B-MeditronFO — медицинская диалоговая языковая модель, разработанная LiGHT и дообученная на базе Apertus-70B-Instruct. Она предназначена для медицинских задач: ответов на вопросы, работы с клиническими рекомендациями и разбора клинических сценариев. Модель содержит 97,7 млрд параметров, использует плотную архитектуру ApertusForCausalLM, принимает текст и генерирует текст; длина контекста — до 65 536 токенов. В обучении использован корпус Fully Open Meditron из 601 тыс. примеров, включающий публичные медицинские наборы вопросов и ответов и компоненты, проверенные клиницистами. Авторы сообщают о более высокой точности на MedMCQA, MedQA и PubMedQA по сравнению с базовой моделью, а также о предпочтении модели в 85,3% сравнений в оценке AutoMOOVE. Эти результаты относятся к описанным в карточке оценкам и не гарантируют точность ответов в практических ситуациях. Модель может выдавать фактически неверные, непоследовательные или предвзятые ответы, поэтому предназначена для вспомогательного применения и оценки медицинских задач, а не для принятия решений без проверки специалистом. Лицензия — Apache 2.0.

AtmicEmbedding v3 — плотная модель эмбеддингов на архитектуре XLM-RoBERTa, разработанная SriRamanaAtmic для поиска passage по запросам на английском языке о диалогах и учении Раманы Махарши. Это контрастивно дообученная версия AtmicEmbeddingv2 с 658,7 млн параметров; обучение использовало экспертные вопросы и ответы, перефразированные и ситуационные вопросы, а также триплеты теоретических диалогов с негативными примерами. Для получения эмбеддингов применяются префиксы `query: ` и `passage: `, mean pooling и L2-нормализация. Контекст составляет 514 токенов. Модель предназначена для семантического поиска и сопоставления английского запроса с релевантным фрагментом текста. В описанных тестах v3 показала более высокие результаты, чем базовая модель и v2, на собственном наборе с более разнообразными данными. При этом на наборе 161_pass она уступает v2 и близка к базовой модели, поэтому качество поиска на этом корпусе следует проверять отдельно. Модель распространяется по лицензии MIT.

Atom Astronomy 7B i1 GGUF — это квантизированная версия языковой модели vanta-research/atom-astronomy-7b, подготовленная mradermacher. Модель ориентирована на работу с текстом в задачах, связанных с астрономией, астрофизикой, физикой, научными исследованиями и образованием; также заявлены сценарии диалога, conversational AI и генерации текста. В метаданных указаны английский язык, библиотека Transformers и размер исходной модели около 7 миллиардов параметров. Распространяется в формате GGUF с множеством вариантов квантизации i1, включая IQ-, Q2-, Q3-, Q4-, Q5- и Q6-варианты. Это позволяет выбирать компромисс между размером файла, скоростью и качеством: некоторые варианты описаны как низкокачественные, а i1-Q4_K_M отмечен как рекомендуемый по сочетанию скорости и качества. Модель предназначена для локального запуска совместимыми инструментами, однако README не содержит сведений о размере контекста, точной архитектуре, мультимодальности, результатах тестирования или подтвержденных ограничениях предметной области. Лицензия — Apache-2.0.

Minbyul/biomistral-7b-wo-kqa_golden-iter-dpo-step2 — диалоговая языковая модель на архитектуре Mistral с 7,1 млрд параметров. Это DPO-дообучение модели Minbyul/biomistral-7b-wo-kqa_golden-iter-dpo-step1 на наборе HuggingFaceH4/ultrafeedback_binarized. Модель предназначена для генерации диалоговых ответов; базовая модель включает ответы на медицинские и биологические вопросы. Контекст — до 32 768 токенов, веса доступны в формате safetensors. Модель можно применять для диалоговых ответов и ответов на медицинские и биологические вопросы. В карточке приведены результаты оценки на тестовом наборе, но подробности методики и гарантии качества не описаны. Лицензия — Apache-2.0.

Minbyul/biomistral-7b-wo-kqa_golden-iter-sft-step1_gamma0 — дообученная модель BioMistral-7B, созданная на датасете HuggingFaceH4/deita-10k-v0-sft. Это плотная авторегрессионная языковая модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Она поддерживает диалоговую генерацию текста и предназначена для продолжения текста и ответов на запросы в формате чата. Базовая BioMistral-7B дообучена на биомедицинских текстах и рассчитана на ответы на медицинские и биологические вопросы; это описание относится к базовой модели, а карточка данной версии не уточняет её отдельные медицинские сценарии или языки. В README приведено значение loss 2,2919 на оценочном наборе, но нет подробностей о методике оценки и качестве ответов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Следует учитывать, что карточка не описывает ограничения и не подтверждает пригодность сгенерированных ответов для клинических решений.

BLOOM-zh — трансформерная языковая модель семейства BLOOM с расширенной поддержкой традиционного китайского. Её разработали MediaTek Research совместно с лабораторией CKIP Академии Синика и Национальной академией образовательных исследований Тайваня; модель производна от BLOOMZ. Версия 2.0 содержит 1,3 млрд параметров и обучена на 11,5 млрд токенов, преимущественно на текстах на традиционном китайском языке. Модель предназначена для генерации текста и других языковых сценариев, описанных для семейства BLOOM. Она также усвоила более 40 языков, хотя основное обучение было сосредоточено на традиционном китайском. В карточке не приведены длина контекста и подробные характеристики использования, поэтому они здесь не уточняются. Лицензия bigscience-bloom-rail-1.0; разработчики указывают, что модель выпущена только для некоммерческих исследовательских целей.

BERRAMOU/camembert-math-classification — модель классификации последовательностей на архитектуре CamemBERT, дообученная на основе almanach/camembert-base. Она предназначена для классификации ответов на математические задания по категориям Correct, Partiel и Incorrect. Модель содержит 137,8 млн параметров, принимает текст с контекстом до 514 токенов и выдаёт метку класса. В README приведены идеальные оценки на тестовой выборке, однако набор данных и условия оценки не описаны, поэтому эти результаты не позволяют судить о качестве на новых данных. Модель разработана автором репозитория BERRAMOU и распространяется по лицензии MIT. Языковые коды не указаны; по базовой модели CamemBERT и французским названиям классов можно предположить французский язык, но README не подтверждает язык обучающих данных.

DanielClough/Candle_llava-v1.6-mistral-7b — это GGUF-версия мультимодальной модели LLaVA-v1.6-Mistral-7B, опубликованная пользователем DanielClough на Hugging Face. Модель предназначена для исследовательских задач и создания чат-ботов, работающих с изображениями и текстом: она принимает изображение вместе с текстовым запросом и генерирует текстовый ответ, например описание содержимого изображения или ответ на визуальный вопрос. Модель основана на Mistral-7B-Instruct-v0.2 и использует авторегрессионную Transformer-архитектуру LLaVA с визуальным компонентом. В репозитории указано около 8 миллиардов параметров и представлены варианты GGUF с разной точностью квантования, включая 4-, 5-, 8- и 16-битные версии. Поддерживаемые модальности — изображение и текст на входе, текст на выходе. Точный контекстный размер и перечень поддерживаемых языков для этого репозитория не указаны. Сильные стороны модели — мультимодальный диалог, анализ изображений и возможность локального запуска в компактных квантованных форматах. Ограничения включают возможные ошибки интерпретации изображений, фактические неточности и зависимость качества от выбранной квантованной версии; модель предназначена прежде всего для исследований и экспериментов, а не для гарантированно точных решений в критически важных сценариях. В репозитории указана лицензия Apache-2.0.

ClimateGPT-7B-FSC — англоязычная модель Erasmus AI, обученная совместно с AppTek для синтеза междисциплинарных исследований об изменении климата. Это декодерный трансформер семейства Llama с 6,6 млрд параметров, дообученный для следования инструкциям и ответов на вопросы. Модель принимает и генерирует текст, поддерживает контекст до 4096 токенов и рассчитана на английский язык. Модель подходит для ответов на климатические вопросы, особенно в связке с поиском по источникам: в контекст можно передать до пяти ссылок и их текстов. Разработчики рекомендуют использовать извлечение информации для расширения знаний и повышения фактической точности; для других языков предлагается каскадный машинный перевод. Карточка описывает её как исследовательский эксперимент, предназначенный для воспроизведения результатов и исследований LLM. В README указана ClimateGPT Community License; метаданные классифицируют лицензию как other. Модель может выдавать предвзятые, оскорбительные или недостоверные ответы. Для практических сценариев, отличных от исследований, разработчики рекомендуют другие модели семейства ClimateGPT.

Custom-KoLLM-13B-v3 — авторегрессионная языковая модель, разработанная Кюджин Ханом (kyujinpy) на основе архитектуры трансформера LLaMA 2. Модель содержит 12,9 млрд параметров и предназначена для генерации текста, прежде всего на корейском языке. В карточке указано дообучение базовой модели beomi/llama-2-koen-13b на наборе kyujinpy/Ko-various-dataset. Модель работает с текстом и поддерживает контекст длиной до 2048 токенов. В README приведены результаты сравнений на корейских бенчмарках Ko-ARC, Ko-HellaSwag, Ko-MMLU, Ko-TruthfulQA и Ko-CommonGen V2. Весы опубликованы в форматах PyTorch и Safetensors. Лицензия CC BY-NC-SA 4.0 требует указания авторства и ограничивает коммерческое использование.

irfanamal/distilbert_multiple_choice — дообученная модель на архитектуре DistilBERT, предназначенная для выбора одного ответа из нескольких вариантов. В качестве базовой модели указана distilbert/distilbert-base-uncased; модель разработана автором репозитория irfanamal. Она принимает текст вопроса и варианты ответа и оценивает их для выбора наиболее подходящего. Контекст составляет до 512 токенов. Модель выпущена под лицензией Apache-2.0. В README приведены результаты оценки: accuracy 0,55 и loss 1,3817. Датасет обучения обозначен как None, поэтому определить тематическую специализацию и надёжность на конкретных типах вопросов по карточке нельзя.

Dumb-Maidlet — слитая методом SLERP языковая модель семейства Mistral, опубликованная Azazelle. Это плотная авторегрессионная модель примерно на 7,1 млрд параметров для генерации текста; в README указано объединение моделей на базе Noromaid и go-bruins, а метаданные описывают веса в формате Safetensors и контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговых и творческих сценариях. В составе объединения есть NSFW-модель, поэтому модель рассчитана в том числе на создание контента для взрослых. Данные не описывают отдельные языковые специализации или результаты оценки качества. Модель распространяется по лицензии CC BY 4.0. Качество и поведение могут зависеть от промпта и конкретного сценария; README не приводит результатов бенчмарков или подробных рекомендаций по использованию.

Experiment28Experiment29-7B-GGUF — набор квантованных файлов модели в формате GGUF для модели automerger/Experiment28Experiment29-7B. Исходную модель разработал automerger, а квантованные варианты подготовил MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через llama.cpp и совместимые приложения, включая text-generation-webui, LM Studio, GPT4All, KoboldCpp и другие инструменты. Модель относится к классу 7B и представлена в вариантах квантования от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K. Квантирование уменьшает требования к памяти и позволяет запускать модель на потребительском оборудовании, однако более низкая разрядность может снижать качество и точность ответов. Формат GGUF поддерживает работу с CPU и GPU в зависимости от используемого клиента. Модальность — текстовая; назначение и параметры контекстного окна, поддерживаемые языки, точная архитектура и результаты оценки в README не указаны. Модель подходит для локальной генерации текста и экспериментов с производительностью и качеством при разных уровнях квантования. Ограничения включают отсутствие подробного описания поведения, языковых возможностей, контекстной длины и бенчмарков, а также потенциальную потерю качества в наиболее агрессивных вариантах квантования. Указанная лицензия — Apache 2.0.

Mungert/Fin-R1-GGUF — это набор GGUF-файлов модели Fin-R1, опубликованный пользователем или организацией Mungert. Модель предназначена для генерации текста и локального инференса через совместимое программное обеспечение, включая сценарии на CPU и устройствах с ограниченными объёмами оперативной памяти или VRAM. README не содержит подробностей о базовой архитектуре, количестве параметров, языках и максимальной длине контекста. Доступны варианты с форматами BF16 и F16, а также квантизованные версии Q8_0, Q6_K, Q4_K и Q4_K_S. BF16 и F16 ориентированы на устройства с соответствующей аппаратной поддержкой и обеспечивают более высокую точность, тогда как квантизация уменьшает требования к памяти ценой возможного снижения качества. Q4_K и Q4_K_S подходят для CPU и малопамятных конфигураций, причём Q4_K_S является наиболее компактным вариантом среди указанных и имеет больший компромисс по точности. Модель распространяется по лицензии Apache-2.0. README не описывает результаты тестирования, специализированные задачи Fin-R1, языковую поддержку, ограничения по содержанию или рекомендуемое программное обеспечение, поэтому её фактические возможности и качество следует дополнительно проверять на целевых сценариях.