I.2Синтез, понимание и проверка знаний

CausalLM/34b-beta — экспериментальная плотная языковая модель семейства LLaMA с 33,9 млрд параметров от разработчика под именем CausalLM. Она предназначена для генерации текста и диалогов в формате ChatML; заявленная длина контекста составляет 200 000 токенов. В репозитории представлены веса Safetensors, а для запуска автор рекомендует Transformers. В карточке описаны проблемы с точностью весов, из-за которых качество генерации может снижаться, особенно при использовании ускоренных сред инференса вроде vLLM. Автор временно не рекомендует такие среды и отмечает, что модель всё ещё требует исправлений и переобучения. Указанная лицензия — GPL-3.0.

Mungert/AceMath-RL-Nemotron-7B-GGUF — это GGUF-версия текстовой генеративной модели AceMath-RL-Nemotron с заявленным размером 7B, ориентированная на reasoning и математические задачи. В README модель связана с NVIDIA и распространяется по NVIDIA Open Model License; конкретный автор базовой модели не указан однозначно. Файлы были сгенерированы с использованием llama.cpp, commit 19e899c. Модель предназначена для генерации текста, решения математических задач и исследовательских или прикладных сценариев, где важны рассуждения при ограниченных ресурсах. Формат GGUF подходит для инференса через совместимые реализации llama.cpp, включая запуск на CPU, устройствах с небольшим объёмом VRAM и edge-устройствах. Указан английский язык, текстовая модальность и контекст 2048 токенов в приведённых тестах. Ключевая особенность карточки — применение ультранизкобитной precision-adaptive квантизации IQ-DynamicGate с форматами 1–2 бита. Она распределяет точность по слоям и защищает embeddings и output layers, стремясь снизить потерю качества при уменьшении размера модели. На тестах Llama-3-8B заявлено заметное снижение perplexity по сравнению со стандартной 1–2-битной квантизацией, при небольшом увеличении размера и сопоставимой скорости инференса. Ограничения включают возможное снижение точности у низкобитных вариантов, зависимость качества и скорости от конкретного файла и оборудования, а также отсутствие подробных характеристик исходной архитектуры и официальных результатов именно для этой 7B-модели.

AIFT-Yi-Ko-6B-ao-instruct-all-v0.54 — дообученная модель DooDooHyun на базе beomi/Yi-Ko-6B. Это плотная авторегрессионная модель семейства Llama с 5,9 млрд параметров для генерации текста; файлы весов представлены в формате safetensors. Базовая модель ориентирована на корейский и английский языки и имеет расширенный корейский словарь. Контекст модели составляет 2048 токенов. Модель предназначена для генерации текста и инструктивных диалогов. Данные обучения и результаты оценки не описаны, поэтому качество и специализацию версии нельзя установить. Лицензия указана как other, без дополнительных условий в доступных сведениях.

Amal-70b, также обозначенная в карточке как Jais-Inception-70b, — плотная авторегрессионная языковая модель семейства Llama, разработанная совместно Airev и Inception. Модель содержит 69,5 млрд параметров, предназначена для диалогов и генерации текста; в карточке указано обучение на синтетических данных на арабском языке. Заявленная длина контекста — 14 000 токенов. Модель можно применять для арабоязычных диалогов, генерации и анализа текста, а также как основу для задач обработки естественного языка. В README также перечислены машинный перевод и распознавание речи, однако метаданные подтверждают только задачу text-generation, поэтому эти возможности отдельно не подтверждены. Опубликованы оценки ARC, GSM8K, HellaSwag, MMLU, TruthfulQA и Winogrande. Репозиторий содержит веса Safetensors; метаданные указывают лицензию other, поэтому конкретные условия использования следует сверять с лицензией и файлами репозитория. Модель крупная и заявлена как обученная преимущественно на синтетических арабских данных; качество для иных языков и предметных областей не установлено.

Ambari-7B-base-v0.1-sharded — шардированная версия базовой языковой модели Ambari-7B-Base-v0.1, разработанной Cognitivelab.in. Модель построена на архитектуре Llama 2 от Meta и содержит 6,7 млрд параметров. Она прошла этап предварительного обучения с использованием примерно 500 млн новых токенов на языке каннада и рассчитана на двуязычную генерацию текста на английском и каннада. Максимальная длина контекста — 4096 токенов. Модель предназначена для генерации текста на английском и каннада и может служить базой для дальнейшей адаптации под конкретные задачи. Репозиторий содержит веса в формате safetensors. Лицензия — MIT.

Arabic-Orpo-Llama-3-8B-Instruct — дообученная MohamedRashad на базе meta-llama/Meta-Llama-3-8B-Instruct модель семейства Llama 3. Для выравнивания ответов на арабском языке применён метод ORPO и набор данных 2A2I/argilla-dpo-mix-7k-arabic. Модель предназначена для диалоговой генерации текста на арабском языке; автор отмечает, что она выдаёт более связный арабский текст, хотя в приведённой оценке Arabic MMLU базовая Llama 3-8B-Instruct набрала больше баллов. Это плотная причинная языковая модель с 7,5 млрд параметров, поддержкой чата и контекстом до 8192 токенов. Репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers. Лицензия — llama3; применяйте модель в соответствии с условиями лицензии Llama 3.

AraPhi-3-mini-4k-instruct — диалоговая языковая модель, разработанная walid-iguider путём дообучения unsloth/Phi-3-mini-4k-instruct-bnb-4bit на наборе M-A-D/Mixed-Arabic-Dataset-Main. Модель построена на плотной архитектуре MistralForCausalLM, содержит 3,7 млрд параметров и принимает текст для генерации текста; поддерживает контекст до 4096 токенов. Модель предназначена для генерации ответов и диалогов на арабском языке. В карточке указано, что при обучении применялись Unsloth и библиотека TRL. Веса представлены в формате safetensors. Лицензия — Apache-2.0.

Atom V1 Preview — диалоговая модель VANTA Research, созданная на базе google/gemma-3-4b-it с помощью дообучения LoRA и последующего объединения весов. Модель рассчитана на совместное исследование идей, любознательный диалог и объяснение сложных понятий с помощью аналогий и подробных рассуждений. Это плотная модель семейства Gemma 3 примерно на 4 млрд параметров; доступны форматы safetensors и GGUF. Метаданные указывают поддержку чата и английский язык. README заявляет контекст 128K токенов, но в разделе ограничений указывает окно 8192 токена и снижение качества на длинных диалогах. Модель подходит для учебных бесед, мозгового штурма и исследовательской помощи, когда полезны уточняющие вопросы и развёрнутые ответы. Это ранний исследовательский прототип, не предназначенный для высокорисковых решений и не прошедший количественную оценку по стандартным NLP-бенчмаркам или adversarial-тестирование. README сообщает о лицензии CC BY-NC 4.0, которая исключает коммерческое использование.

AsphyXIA/baarat-kannada-instruct-0.1 — дообученная AsphyXIA языковая модель семейства Llama с 6,7 млрд параметров. Она предназначена для генерации текста и выполнения инструкций; базовая модель указана как baarat-kannada-instruct. При обучении использовались Unsloth и библиотека TRL.

Bielik-11B-v2.2-Instruct-GGUF-IQ-Imatrix — экспериментальная серия квантизированных версий польскоязычной модели Bielik-11B-v2.2-Instruct, разработанная командами SpeakLeash и ACK Cyfronet AGH. Это авторегрессионная decoder-only модель для генерации текста и выполнения инструкций; основной сценарий использования — локальный запуск в instructional mode, а не чатовый режим. Формат GGUF поддерживается llama.cpp и рядом совместимых приложений и библиотек, включая Ollama, LM Studio, GPT4All и text-generation-webui. Модель содержит около 11 млрд параметров в исходной версии, работает с польским языком и основана на Bielik-11B-v2.2-Instruct, дообученной от Bielik-11B-v2. В репозитории представлены варианты квантизации IQ1_M, IQ2_XXS, IQ3_XXS, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0 с разным компромиссом между качеством, размером и требованиями к ресурсам. Квантизация с importance matrix может улучшать качество вариантов с разрядностью 4–8 бит по сравнению с версиями без калибровки; низкоразрядные варианты предназначены в том числе для мобильных устройств и мини-компьютеров. Сильная сторона серии — возможность локального запуска и широкий выбор уровней квантизации, включая рекомендуемый IQ4_XS. Ограничения включают экспериментальный статус, снижение качества и возможные галлюцинации после квантизации; варианты IQ1_M имеют крайне низкое качество, а Q8_0 требуют значительных ресурсов и могут работать медленно. Для экспериментальных моделей с разрядностью 1–3 бита рекомендуется низкая температура генерации. Лицензия указана как Apache 2.0 с дополнительными Terms of Use Bielik.

Bielik-1.5B-v3.0-Instruct-GGUF — это квантизированная GGUF-версия языковой модели Bielik-1.5B-v3.0-Instruct, разработанной speakleash и подготовленной квантизацией компанией Second State Inc. Модель предназначена для диалоговых и текстовых задач на польском языке и может запускаться через LlamaEdge или совместимые инструменты. Указанный формат поддерживает варианты квантизации от Q2_K до Q8_0, а также f16; рекомендуемым балансом качества и размера названа Q4_K_M, а варианты Q5_K_M и Q5_K_S характеризуются очень небольшой потерей качества. Модель имеет размер 1,5 млрд параметров, использует шаблон запросов ChatML и поддерживает контекст до 8192 токенов. В README указана рекомендуемая температура генерации 0,4. Доступны файлы размером примерно от 607 МБ для Q2_K до 3,20 ГБ для f16, что позволяет выбирать вариант под ограничения по памяти и качеству. Сильной стороной модели являются компактность и возможность локального запуска, включая использование LlamaEdge. Ограничения связаны с небольшим размером модели и потерями качества при агрессивной квантизации; варианты Q2_K и Q3_K имеют существенную потерю качества и подходят не для всех сценариев. Лицензия модели — Apache-2.0.

BLOOM-zh — языковая модель на архитектуре Transformer, разработанная MediaTek Research совместно с лабораторией CKIP Академии Синика и Национальной академией образовательных исследований. Это производная от BLOOMZ модель с расширенными возможностями для традиционного китайского языка: её дополнительно обучали на примерно 13 млрд токенов, преимущественно на текстах на традиционном китайском. Модель содержит 3,8 млрд параметров и имеет контекст до 2048 токенов. Модель предназначена для генерации текста и языковых задач на китайском языке; предварительно обученные веса также охватывают более 40 языков. В обучающих данных использовались веб-страницы, новости, романы, энциклопедические и образовательные материалы, а также инструкции. Репозиторий содержит веса в формате PyTorch. Лицензия BLOOM-RAIL 1.0; README также указывает лицензию MediaTek Research и ограничение на некоммерческое исследовательское использование.

Boto 9B IT — языковая модель lucianosb для генерации текста и диалоговых ответов на португальском языке. Это дообученная методом SFT плотная модель Gemma 2 с 9 млрд параметров, основанная на unsloth/gemma-2-9b-it-bnb-4bit. Модель обучали на датасете lucianosb/cetacean-ptbr с использованием Unsloth и TRL; контекст составляет 8192 токена. Модель подходит для общения и генерации португалоязычного текста. По описанию автора, ответы обычно многословны и могут быть недостаточно лаконичными. В README приведены результаты оценки на Open Portuguese LLM Leaderboard, включая средний балл 73,65 и оценки по ENEM Challenge и BLUEX. Лицензия — Apache-2.0. Разработчик предупреждает, что модель может воспроизводить социальные стереотипы и выдавать фактически неверные сведения; её ответы не следует использовать как единственное основание для важных решений.

minsu0567/Capstone-Design-Llama3.2-Command — разговорная языковая модель на архитектуре Llama, дообученная разработчиком на основе Bllossom/llama-3.2-Korean-Bllossom-3B. Модель содержит 3,2 млрд параметров, предназначена для генерации текста и поддерживает чат. В метаданных указано контекстное окно до 131072 токенов. Модель можно использовать для диалогов и генерации текста. Метаданные не раскрывают особенности дообучения, точный языковой охват, лицензию или известные ограничения; веб-поиск по идентификатору не дал результатов.

Cassandre-RAG — дообученная PleIAs модель семейства Llama 3.1 для генерации ответов по найденным документам, прежде всего по французским административным материалам в сфере школьного управления. Она ожидает структурированный запрос с блоками вопроса и источников; каждому источнику нужно присвоить идентификатор. Модель формирует ответ с указанием использованных фрагментов и документов. Модель имеет плотную архитектуру LlamaForCausalLM и содержит 7,5 млрд параметров. Заявленная длина контекста — 131 072 токена. Для обучения использовались синтетические запросы, документы, найденные по BM25, и подготовленные на их основе ответы. В примере применения поиск и эмбеддинги выполняются отдельными компонентами, а Cassandre-RAG генерирует ответ по переданным источникам. Модель предназначена для вопросов и ответов с опорой на документы; качество результата зависит от релевантности и полноты предоставленных источников. README не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.

CFM-Methods-3B — компактная языковая модель MorphMind для первичной проверки методологии эмпирических исследований. Она принимает раздел с методами, экспериментальным дизайном или анализом и формирует структурированный текстовый вывод: оценивает обоснованность утверждения, указывает проблемный фрагмент и объясняет методологический риск. Модель построена на архитектуре Qwen2 и содержит 3,1 млрд параметров; базовая модель — Qwen/Qwen2.5-3B-Instruct, дообученная с использованием RLVR и вознаграждения за точную локализацию ошибки. Контекст — до 32 768 токенов. Модель предназначена для поиска таких проблем, как утечка данных, множественные сравнения без коррекции, необоснованный выбор выбросов, остановка эксперимента по результатам, смешение корреляции и причинности, а также загрязнение обучающей и тестовой выборок. Заявленные области применения включают статистику, машинное обучение, количественную биологию, эконометрику, материаловедение и химическую физику. Её можно использовать для предварительной самопроверки статей, сортировки рукописей и проверки экспериментальных планов, включая созданные ИИ; разработчик рекомендует разбирать по одному блоку методов за раз. Это исследовательская предварительная версия, рассчитанная на высокую полноту выявления проблем и работу с участием человека. Результаты бенчмарка и заявления о качестве приведены разработчиком и не являются независимой проверкой. Модель может пропускать ошибки или ошибочно помечать корректные методы, поэтому её выводы требуют экспертной проверки. Репозиторий использует формат Safetensors и библиотеку Transformers; лицензия указана как other, конкретные условия использования в карточке не приведены.

Chihiro 7B v0.1 — экспериментальная универсальная языковая модель на 7,2 млрд параметров, созданная yuuko-eth слиянием SLERP моделей Zebrafish 7B и Breeze 7B Instruct. Она использует плотную архитектуру Mistral и предназначена для генерации текста и диалогов, прежде всего на традиционном китайском языке; заявлена также поддержка английского. Модель принимает текстовые запросы, для работы подходят шаблоны промптов Mistral Instruct или Breeze 7B Instruct. Контекст — до 32 768 токенов. В карточке приведены результаты тестов OpenLLM и Nous, включая ARC, HellaSwag, TruthfulQA и GSM8K; оценка MMLU не проводилась. Автор описывает модель как экспериментальную. Лицензия в метаданных обозначена как unknown, поэтому условия использования следует уточнить у автора или в репозитории.

Cinder-Phi-2-Test-1 — чат-модель на архитектуре Phi, разработанная Josephgflowers. Она предназначена для научных и образовательных бесед, общения в роли персонажа Cinder и творческого исследования идей. В README указано, что обучение использовало данные, похожие на OpenHermes 2.5, с дополнительными материалами по математике, STEM, рассуждениям из OpenOrca и данными о персонаже Cinder. Модель содержит 3,5 млрд параметров, использует плотную архитектуру Phi для генерации текста и поддерживает контекст до 2048 токенов. Опубликованы варианты в форматах Safetensors и GGUF; лицензия — MIT. Карточка описывает модель как тестовую версию и сообщает, что дополнительные сведения появятся позднее.

DataDecide-dolma1_7-no-code-1B-57500_60000_62500_65000_67500_weightedavg_merge — объединённая языковая модель на основе архитектуры Llama, созданная с помощью mergekit. В неё линейно объединены пять предварительно обученных контрольных точек Dolma 1.7 no-code; базовой указана контрольная точка step67500. Модель содержит 1,2 млрд параметров и работает с контекстом до 2048 токенов. Модель предназначена для генерации текста. Метка no-code указывает на ориентацию исходных контрольных точек на данные без кода, но карточка не описывает конкретные прикладные сценарии или результаты оценки качества. Репозиторий использует Transformers и хранит веса в формате safetensors. Лицензия в предоставленных сведениях не указана.

Hasanur525 разработал deed-summarization_version_5 — модель mT5, дообученную на основе csebuetnlp/mT5_multilingual_XLSum для суммаризации текстов. В репозитории указано, что обучение проводилось на датасете, обозначенном как None; описание модели и сценариев применения не приведено. Модель содержит 291,2 млн параметров и использует архитектуру MT5ForConditionalGeneration. Базовая модель обучена для многоязычной суммаризации на 45 языках, однако README не сообщает, на каких данных дообучалась эта версия и насколько хорошо она работает. В приведённой оценке ROUGE-1, ROUGE-2, ROUGE-L и ROUGE-Lsum равны 0, поэтому качество суммаризации этой версии не подтверждено. Лицензия в доступных данных не указана.

Это набор статических GGUF-квантований DeepNemotron-3.5-Lightning-Beta-BF16, подготовленный mradermacher для запуска языковой модели в совместимых инструментах. Модель предназначена для диалоговой генерации текста; в репозитории представлены варианты квантования разных размеров, включая Q2_K, Q3_K_S и IQ4_XS. Метаданные указывают на дообучение базовой модели на датасете r0b0tlab/deepseek-v4-pro-0813-agentic и поддержку английского языка. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией базовой модели и файлами репозитория.

Ornith-1.0-9B-GGUF — это квантизированная версия модели Ornith-1.0-9B, разработанной deepreinforce-ai. Данная сборка подготовлена bartowski в формате GGUF с использованием llama.cpp и imatrix-квантизации. В карточке модель обозначена как image-text-to-text, поэтому предназначена для задач, сочетающих работу с изображениями и текстом, однако подробные сведения о поддерживаемых языках, формате визуального ввода и особенностях обучения не указаны. Модель имеет около 9 миллиардов параметров. Доступны варианты от BF16 до различных уровней квантизации Q2, Q3, Q4, Q5, Q6, Q8 и IQ, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Рекомендуемые варианты включают Q4_K_M, Q5_K_M, Q6_K и Q6_K_L; запуск возможен через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые приложения. Для корректного использования приведён шаблон промпта с ролями system, user и assistant. Преимуществами являются широкий выбор квантизаций, возможность локального запуска и сохранение высокого качества в старших вариантах. Ограничения связаны с потерями качества у низкобитных вариантов, отсутствием данных о размере контекста, языках, архитектуре и фактических возможностях работы с изображениями, а также с необходимостью поддержки модели используемым программным обеспечением. Лицензия — MIT.

pfeifferj/DeepSeek-V4.1-Flash-GSQ-RCO-GGUF — сторонняя GGUF-квантизация модели DeepSeek-V4.1-Flash от DeepSeek-AI, подготовленная Josephine Pfeiffer. Релиз не является официальным продуктом IST-DASLab и не имеет его одобрения. Квантизация выполнена с использованием методов GSQ и RCO, разработанных Deep Algorithms and Systems Lab (DASLab) при Institute of Science and Technology Austria. Модель предназначена для мультимодальных сценариев image-text-to-text, включая обработку текста и изображений. В комплект входят 3-битная квантизация основной части модели, DSpark-модель для speculative decoding и BF16 vision projector. Базовая архитектура включает 552 млрд параметров основной модели и 196 млрд параметров памяти Engram; общий размер файлов составляет около 426,1 ГБ, из которых основной GGUF-файл занимает 415,76 ГБ. Таблицы Engram хранятся в формате Q8_0 и рассчитаны на размещение в оперативной памяти узла. Языки и максимальный контекст модели в README не указаны; приведённые результаты MMLU-Pro получены при ограничении контекста 2048 токенами. К сильным сторонам относятся существенное уменьшение размера относительно исходного чекпойнта, неравномерное распределение точности квантования с учётом чувствительности тензоров и наличие компонентов для мультимодальности и ускоренного декодирования. В тестах указаны 61,00% на MMLU-Pro, perplexity 3,4845570141 на отложенных данных, прохождение 16 из 16 проверок IFEval и 8 из 8 задач GSM8K; при этом мультимодальность и speculative decoding отдельно не валидировались. Для запуска требуется свыше 415 ГБ памяти с дополнительным запасом под KV-кэш и буферы. В README указана лицензия MIT.

DeepSeek-V4-Flash-JANG-CRACK — модифицированная методом abliteration модель dealignai на базе DeepSeek-V4-Flash от DeepSeek. Она предназначена для диалогов, рассуждений и генерации текста; авторы ориентируют её на исследования безопасности ИИ, red teaming и работу ассистента без обычного поведения отказа. По README, модель сохраняет три режима рассуждения и знания базовой модели. Это MoE-архитектура с 284 млрд параметров всего и 13 млрд активных, 256 маршрутизируемыми и одним общим экспертом, MLA-вниманием и mHC. Заявленная длина контекста — 1 000 000 токенов. Репозиторий содержит веса Safetensors; для запуска требуются Apple Silicon Mac с достаточной общей памятью (около 97 ГБ) и MLX с поддержкой DeepSeek-V4, рекомендуется vMLX. Лицензия — MIT. README сообщает о высокой доле выполнения запросов на тестах HarmBench и о результатах MMLU, близких к базовой модели; это результаты авторской оценки. Удаление отказов означает, что модель может выдавать ответы на вредоносные запросы. Заявления о тестировании и сохранении возможностей не являются независимой проверкой.

Embryophagus — слитая экспериментальным способом языковая модель объёмом 12,5 млрд параметров на архитектуре Mistral с контекстом до 32 768 токенов. Автор — Karko; точный состав и рецепт слияния утрачены, однако среди основных компонентов указана argilla/CapybaraHermes-2.5-Mistral-7B. Модель предназначена для генерации текста, в частности художественной прозы, ролевых сценариев и синтетических данных. Автор отмечает хорошие результаты в тестах на здравый смысл и логическое рассуждение, а также выразительную прозу на английском языке. Лицензия в метаданных обозначена как неизвестная. Модель может ошибаться и иногда продолжает сцену от лица пользователя или описывает его действия. Автор предлагает настраивать строки остановки, чтобы уменьшить такое поведение. Рецепт слияния не сохранился, поэтому состав модели нельзя точно воспроизвести.

EMMA-500 Llama 3.1 8B Mono — многоязычная авторегрессионная языковая модель команды MaLA-LM, созданная на архитектуре Llama 3.1 8B путём дальнейшего предобучения на монолингвальном корпусе. Модель предназначена для генерации текста и экспериментов с языками, включая языки с ограниченными ресурсами; карточка также указывает сценарии машинного перевода, рассуждений здравого смысла и классификации текста. Модель содержит 7,5 млрд параметров, использует архитектуру Llama и поддерживает контекст до 131 072 токенов. По README, обучение охватило 546 языков и 419 млрд токенов из текстов, книг, кода, инструкций и научных работ. Это монолингвальная версия серии EMMA-500; данные о качестве для отдельных языков и задач не приведены. Авторы предупреждают о возможном снижении результатов на некоторых задачах и высокоресурсных языках и не рекомендуют модель для реальных сценариев в критически важных областях. Лицензия — Llama 3.1 Community License (llama3).

EnvACE 2.0 Non-Conversation GRPO — слитый чекпойнт для инференса, созданный автором репозитория из запуска EnvScaler non-conversation GRPO. Это дообученная версия Qwen3-8B с плотной архитектурой Qwen3ForCausalLM и 7,6 млрд параметров; модель принимает текст и генерирует текст, поддерживает диалоговый режим и имеет контекст до 40 960 токенов. Чекпойнт сохранён в формате safetensors и распространяется по лицензии Apache-2.0. Модель предназначена для генерации текста и оценки поведения после обучения с подкреплением в сценариях без диалога. Репозиторий содержит объединённую версию весов для инференса и оценки; исходный распределённый чекпойнт, состояния оптимизатора и планировщика, а также состояние загрузчика данных не сохранены, поэтому продолжить обучение с точным восстановлением шага 200 нельзя. README не уточняет целевые языки и конкретные метрики качества.

flammen20-mistral-7B — языковая модель на архитектуре Mistral с 7,1 млрд параметров, разработанная Flammen. Она создана на основе flammenai/flammen19X-mistral-7B и дообучена методом Direct Preference Optimization на датасете flammenai/Date-DPO-v1; в карточке также упоминается слияние предварительно обученных моделей. Модель предназначена для ролевых диалогов, творческого письма и задач общего назначения, связанных с генерацией текста. Модель использует библиотеку Transformers, веса опубликованы в формате safetensors, максимальная длина контекста составляет 32 768 токенов. В README отдельно упомянуто обучение с LoRA на A100 в Google Colab. Лицензия — Apache-2.0. Карточка не приводит сведения о поддерживаемых естественных языках или специальные меры безопасности.

Gemma 3 12B IT Abliterated — экспериментальная модификация модели google/gemma-3-12b-it, созданная разработчиком mlabonne. Она предназначена для генерации ответов с существенно меньшей склонностью к отказам, в том числе в сценариях, где требуется более свободное следование запросу. Модель представлена в формате GGUF и относится к мультимодальному классу image-text-to-text, однако подробности о поддерживаемых языках и размере контекста в карточке не указаны. В основе лежит модель Gemma 3 с примерно 12 миллиардами параметров. Для удаления отказов применена layerwise abliteration: направление отказа вычислялось по скрытым состояниям независимо для большинства слоёв, с последующим усилением соответствующего направления. По заявлению автора, это дало коэффициент принятия запросов свыше 90% при сохранении связности ответов. Рекомендуемые параметры генерации: temperature 1.0, top_k 64 и top_p 0.95. Модель носит экспериментальный характер и может иногда генерировать искажённый или грамматически повреждённый текст. Снижение числа отказов также означает потенциально меньшую встроенную безопасность, поэтому результаты требуют дополнительной проверки. Информация о конкретной схеме квантования в формате GGUF ещё не приведена. Лицензия указана как gemma.

Mungert/gemma-3-12b-it-gguf — это GGUF-версия инструкционной модели Gemma 3 с 12 млрд параметров, опубликованная Mungert и основанная на модели Google Gemma 3. Репозиторий ориентирован на запуск модели локально через llama.cpp и содержит варианты квантования, а также отдельный mmproj-файл для обработки изображений. Модель предназначена для диалоговых задач и сценариев, где требуется анализ изображений с последующим текстовым ответом: например, описание содержимого фотографий и ответы на вопросы о визуальных данных. Поддержка vision реализована экспериментально в llama.cpp; для работы нужны основной GGUF-файл и соответствующий mmproj-файл. В README не указаны поддерживаемые языки и размер контекстного окна. К сильным сторонам относятся мультимодальность, инструкционный режим, возможность локального запуска и выбор форматов с разным компромиссом между качеством, скоростью и требованиями к памяти, включая BF16, F16 и квантованные варианты. Ограничениями являются экспериментальный характер поддержки Gemma 3 Vision в llama.cpp, значительное время кодирования и обработки изображений, а также зависимость производительности от аппаратной поддержки BF16 или FP16 и доступной памяти. Модель распространяется по лицензии Gemma.