II.10Разработка и эксплуатация AI/ML-систем

Hemg/biology-english-pancasila-2 — модель Sentence Transformers на базе BERT для преобразования предложений и абзацев в плотные векторы размерностью 384. Её можно использовать для поиска семантически похожих текстов, кластеризации и семантического поиска. Модель обучалась с функцией потерь MultipleNegativesRankingLoss и косинусным сходством. По метаданным, она содержит около 40 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате safetensors. Название указывает на тематику биологии и английский язык, однако README и метаданные не подтверждают специализацию или набор языков обучения. Для использования требуется библиотека sentence-transformers. Лицензия в предоставленных данных не указана.

Это GGUF-квантизированная версия модели command-a-reasoning-08-2025, разработанной CohereLabs. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; опубликованный вариант предназначен для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель относится к генерации текста и, судя по названию, ориентирована на задачи, требующие рассуждений. Доступны варианты с уровнями квантизации от Q8_0 до Q3_K и IQ3, размером примерно от 43 до 118 ГБ. Более крупные варианты обычно обеспечивают более высокое качество, а компактные требуют меньше оперативной памяти, но заметно уступают по качеству. Архитектура, число параметров, поддерживаемые языки, модальности и размер контекста в представленном README не указаны. Преимущество этой публикации — широкий выбор степеней квантизации и адаптация для эффективного локального инференса. Ограничения связаны с большими требованиями к памяти даже у компактных вариантов, возможным снижением качества при низкой разрядности и отсутствием сведений о формате промптов. Лицензия в README не указана; условия использования следует уточнять на странице исходной модели CohereLabs/command-a-reasoning-08-2025.

Citaman/command-r-31-layer — модель генерации текста на архитектуре Cohere, созданная автором репозитория с помощью mergekit. Веса объединены методом SLERP из двух срезов модели Citaman/command-r-32-layer; каталог также связывает её с этой базовой моделью как с дообученной. Модель содержит 27,6 млрд параметров, использует формат safetensors и рассчитана на контекст до 8192 токенов. Модель предназначена для диалоговой генерации текста и поддерживает интерфейс вызова инструментов. Её можно применять для ведения беседы и генерации ответов в сценариях с подключёнными инструментами. README и метаданные не описывают специализацию по языкам или предметным областям. В карточке не приведены результаты оценки качества и конкретные ограничения применения. Лицензия в доступных данных не указана.

Citaman/command-r-34-layer — merge языковой модели на архитектуре CohereForCausalLM, созданный с помощью mergekit методом SLERP из Citaman/command-r-35-layer. Репозиторий содержит веса Safetensors в формате bfloat16; модель имеет 30 млрд параметров и контекст до 8192 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Метаданные также указывают интерфейс вызова инструментов, поэтому её можно использовать в приложениях, которые передают модели запросы к инструментам. В карточке описано объединение диапазонов слоёв одной базовой модели; дополнительных сведений о качестве и специальных сценариях нет. Лицензия в предоставленных данных не указана. Практические ограничения: контекст ограничен 8192 токенами, а качество и поведение после слияния в карточке не оценены.

DeepSeek-R1-Distill-Qwen-7B-heretic — языковая модель для генерации текста и рассуждений, разработанная пользователем saidutta69 на основе deepseek-ai/DeepSeek-R1-Distill-Qwen-7B. Вариант создан с помощью Heretic v1.4.0 методом directional ablation («abliteration»): целевые изменения весов в выходных проекциях attention и down-проекциях MLP подавляют поведение, связанное с отказами, без дополнительного fine-tuning. Заявляется, что при этом знания и способность следовать инструкциям в основном сохранены. Модель предназначена для разработчиков, которым нужна компактная reasoning-модель примерно на 7,6 млрд параметров для диалогов, генерации текста и задач, требующих рассуждений. Указан английский язык и текстовая модальность. Доступны веса BF16 и GGUF-квантизации Q4_K_M, Q5_K_M, Q6_K и Q8_0; модель можно запускать через Transformers, llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang. Для работы рекомендуется GPU с 8–12 ГБ памяти, а Q4_K_M подходит для потребительского оборудования и CPU-only или Apple Silicon при наличии достаточного объёма оперативной памяти. Размер контекста в README не указан. К сильным сторонам относятся сохранение базовых возможностей исходной модели, поддержка рассуждений и широкий выбор квантизаций для локального запуска. Ключевое ограничение и одновременно особенность — намеренное подавление отказов: модель может выполнять запросы, от которых базовая версия отказалась бы, включая потенциально небезопасные, и не содержит дополнительного слоя фильтрации. Модель распространяется на условиях deepseek-research-license, унаследованных от базовой модели.

DeepSeek-V4.1-Flash GGUF — это набор GGUF-конвертаций и смешанных квантований базовой модели DeepSeek-V4.1-Flash, разработанной DeepSeek и квантованной smalinin. Модель предназначена для задач генерации текста и работы в экспериментальном runtime DeepSeek-V4.1 на базе специальной ветки smalinin/llama.cpp с поддержкой CUDA. Представленные файлы являются текстовыми: vision tower в них отсутствует, поэтому мультимодальный ввод изображений не поддерживается. Архитектура исходной модели обозначена как DeepseekV41ForCausalLM и включает sparse attention, hyper-connections, MoE-слои и две крупные n-gram Engram lookup tables. Доступны варианты Q2_K с Q5_K Engram размером 335,382 ГБ и эффективным 3,58 BPW, IQ3_XS с Q8_0 Engram размером 434,024 ГБ и 4,64 BPW, а также MXFP4 с Q8_0 Engram размером 507,954 ГБ и 5,43 BPW. Первый вариант лучше подходит при ограничениях по диску, оперативной памяти или совокупной памяти GPU; более крупные варианты ориентированы на сохранение качества квантования. Для работы требуется именно ветка my_build_deepseek41 из smalinin/llama.cpp и CUDA; совместимость со стандартной upstream-версией llama.cpp не заявлена. Необходимо скачать все десять сегментов выбранного варианта. Более низкий BPW может приводить к повторениям и снижению качества, поэтому варианты следует оценивать на собственных запросах. Репозиторий распространяется по лицензии MIT.

cmarkea/detr-layout-detection — модель обнаружения структуры документов, разработанная cmarkea и дообученная на DocLayNet на базе DETR с ResNet-50. Она анализирует изображение страницы и одновременно предсказывает ограничивающие рамки и маски элементов макета: подписей, сносок, формул, пунктов списков, колонтитулов, изображений, заголовков разделов, таблиц, основного текста и заголовков страниц. Модель предназначена для извлечения структуры страниц при обработке документных корпусов, в том числе для подготовки данных к системам ответов на вопросы по документам. В README приведены результаты оценки на 500 страницах DocLayNet; заявлены F1 91,27 для сегментации и GIoU 80,66 для обнаружения объектов в сравнительном бенчмарке. Число параметров — 6,3 млн; веса доступны в формате safetensors для Transformers. Модель принимает изображения документов и выдаёт классы элементов, маски и рамки объектов. Лицензия — Apache-2.0. Качество оценивалось на DocLayNet; переносимость на другие типы документов и качество на отдельных классах могут отличаться.

nbeerbower представил слитую модель EVA-Rombos1-Qwen2.5-32B-lorablated на архитектуре Qwen2.5, предназначенную для генерации текста и диалогов. Модель содержит 32 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и поддерживает контекст до 131 072 токенов. Модель создана методом task arithmetic с помощью mergekit из nbeerbower/EVA-Rombos1-Qwen2.5-32B и nbeerbower/Qwen2.5-32B-abliterated-LORA. Она рассчитана на текстовые запросы и выдаёт текст; метаданные также отмечают интерфейс для вызова инструментов. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0. Язык карточкой не уточнён.

ExoMind-9B — компактная мультимодальная модель команды ExoMind из Шанхайской лаборатории искусственного интеллекта. Это плотная модель семейства Qwen3.5 с 9 млрд параметров, дообученная на базе Qwen/Qwen3.5-9B для научных рассуждений и агентных исследовательских сценариев. Она принимает текст и изображения и формирует текстовые ответы; в карточке указано окно контекста до 262 144 токенов. Модель предназначена для научных вопросов и ответов, математических и вычислительных рассуждений, поиска источников, обоснования выводов свидетельствами, проверки результатов с помощью исполняемого кода и экспериментов с использованием инструментов. Она рассчитана на ресурсосберегающие прототипы агентных систем и сохраняет возможности анализа изображений базовой модели. Для заявленных сценариев авторы описывают обучение на траекториях рассуждений и взаимодействия. Оценки из приведённой в README таблицы относятся к системе ExoMind 35B-A3B, поэтому их нельзя переносить на версию 9B; отдельные оценки для ExoMind-9B не приведены. Модель распространяется по лицензии Apache-2.0.

Experiment26Yamshadow_NeuralsirkrishnaExperiment28 — объединённая языковая модель семейства Mistral, созданная из automerger/Experiment26Yamshadow-7B и automerger/NeuralsirkrishnaExperiment28-7B. Она предназначена для генерации текста и принимает текстовые запросы. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате Safetensors. Репозиторий использует лицензию Apache-2.0.

MaziyarPanahi/Experiment28T3q_Inex16Calme — объединённая модель семейства Mistral с плотной архитектурой MistralForCausalLM и 7,1 млрд параметров. Она создана слиянием automerger/Experiment28T3q-7B и automerger/Inex16Calme-7B. Модель предназначена для генерации текста и принимает текстовые запросы. Контекстное окно составляет 32 768 токенов. Репозиторий содержит веса в формате Safetensors; лицензия — Apache-2.0.

OS-Software/Gemma 4 12B IT QAT Q4_0 Unquantized Heretic JA v2 — экспериментальная производная модели Google Gemma 4 12B IT. Репозиторий описывает Gemma 4 как мультимодальную модель Google DeepMind для работы с текстом, изображениями, видео и аудио; эта версия дообучена на базе google/gemma-4-12B-it и помечена как uncensored/abliterated. Указаны гибридное внимание с локальными окнами и глобальными слоями, рассуждение, вызов инструментов, генерация и исправление кода, а также мультиязычная поддержка. Для семейства 12B заявлено контекстное окно до 256K токенов и поддержка распознавания речи и перевода аудио в текст; метаданные указывают Transformers, safetensors и лицензию Apache-2.0. Карточка позиционирует модель для исследований и экспериментов, включая исследования безопасности, выравнивания и red teaming, и просит не развёртывать её в публичных сервисах или пользовательских приложениях. Возможны предвзятые, неточные или устаревшие ответы, трудности со сложными инструкциями и языковыми нюансами; для этой версии отдельные измерения качества не приведены.

GLM-5.3-MLX-mixed-4_8bit — сборка модели GLM-5.3 от zai-org, адаптированная PipeNetwork для MLX и Apple Silicon. Это генеративная текстовая модель на архитектуре Mixture-of-Experts glm_moe_dsa с 744 млрд параметров, 256 экспертами и маршрутизацией top-8. В архитектуре используется MLA со sparse attention в стиле DeepSeek-V3.2. Модель предназначена для генерации текста и локального инференса на компьютерах Apple Silicon. Экспертные слои занимают около 724,8 млрд параметров и квантизованы в 4 бита, тогда как attention, общие эксперты, плотные слои, эмбеддинги и lm_head хранятся в 8 битах; маршрутизаторы, нормы и индексатор сохранены в исходной точности. Размер файлов составляет около 427,8 ГБ, для запуска рекомендуется Mac с 512 ГБ оперативной памяти. Сборка использует библиотеку MLX и требует специального runtime-файла glm_moe_dsa.py; указанный README рекомендует запуск через mlx-lm с включённым trust remote code. По измерениям на wikitext-2 модель имеет perplexity 2,7420, что лучше равномерной 4-битной версии, хотя смешанная квантизация требует примерно на 9 ГБ больше места. Основные ограничения — крайне высокие требования к памяти, отсутствие multi-token-prediction layer и возможное снижение качества на контекстах свыше 2048 токенов из-за особенностей sparse indexer; заявленная длина контекста в README не указана. Лицензия — GLM-5.3 license, унаследованная от исходной модели; точные условия приведены в файле LICENSE.

Grey-12b — языковая модель AIXON Lab на архитектуре Transformer/Mistral, созданная слиянием нескольких моделей методом della_linear на основе aixonlab/Aether-12b. Веса модели содержат около 12,1 млрд параметров, формат — safetensors; в README указан тип float16. Модель предназначена для генерации текста, ответов на вопросы и анализа. Основной язык — английский; README допускает поддержку других языков, но не уточняет их перечень. Контекстное окно составляет до 1 024 000 токенов по метаданным. Модель распространяется по лицензии Apache-2.0. Метрики качества для Grey-12b не представлены. Возможны смещения, унаследованные от обучающих данных и объединённых моделей, поэтому ответы следует проверять.

Heretic-Qwen3-VL-235B-A22B-Instruct — версия мультимодальной модели Qwen3-VL, изменённая автором репозитория с помощью Heretic v1.1.0. Она принимает текст и изображения и предназначена для диалогов, ответов на вопросы по изображениям и других задач визуального понимания. Базовая модель относится к семейству Qwen3-VL и использует архитектуру MoE; в названии указано 235B параметров, из них 22B активируются на токен. Метаданные указывают поддержку интерфейса вызова инструментов. Основное изменение — ослабление отказов: автор сообщает о снижении их частоты с 99 до 30 из 100 по сравнению с базовой моделью. Это не делает модель более сговорчивой и не учит её отвечать на темы, для которых ей недостаёт обучения; качество таких ответов может требовать дополнительной настройки. Модель распространяется под лицензией Apache-2.0. В README приведён пример запуска через vLLM с ограничением контекста в 32 768 токенов для этого сценария; это значение не подтверждает максимальный нативный контекст модели.

Hermes 2 Pro BakLLaVA — объединённая мультимодальная модель vonjack на архитектуре LlavaForCausalLM с языковой частью Mistral и компонентами mm_projector и vision_tower от BakLLaVA. Она содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов; веса опубликованы в формате safetensors. Модель предназначена для диалогов и выполнения инструкций, ответов на вопросы по изображениям, вызова функций и генерации JSON. В карточке заявлены хорошие результаты в QA, function calling, JSON mode и работе с изображениями; среди языков указан английский. Использование разрешено по лицензии Apache-2.0.

Huginn-0125 — экспериментальная языковая модель исследовательской группы TomG Group при University of Maryland. Это плотная decoder-only модель на 3,5 млрд параметров, обученная с нуля на 800 млрд токенов и реализованная как рекуррентная модель с латентной глубиной: при генерации можно задавать число итераций вычислений num_steps, увеличивая глубину обработки без фиксированного числа слоёв. Модель работает с текстом, поддерживает диалоговый шаблон и ориентирована на генерацию текста, рассуждения, математические задачи и код. Модель обучалась 47 000 шагов на открытых данных и не проходила дообучение или постобучение, хотя в предварительное обучение включались инструкции. Авторы характеризуют её как proof of concept; увеличение num_steps улучшает результаты на бенчмарках примерно до 64 шагов, а при числе меньше четырёх ответы становятся грубыми. Для инференса рекомендуется bfloat16; для кэширования KV требуется специальная реализация HuginnDynamicCache, которая может быть чувствительна к обновлениям Transformers. Доступна по лицензии Apache-2.0.

Это GGUF-квантизированная версия модели DeepSeek-R1-Distill-Llama-70B-abliterated, разработанной huihui-ai и подготовленной к публикации пользователем bartowski. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. В основе лежит модель с архитектурой Llama и размером 70B параметров; в README также указано, что она относится к вариантам abliterated и uncensored. Доступны многочисленные уровни квантизации, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q4_K_S, IQ4_XS и варианты Q3. Размер файлов составляет примерно от 30,91 до 74,98 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp версии b4585. Формат запроса использует специальные токены DeepSeek. Сильной стороной являются варианты с высокой точностью, особенно Q6_K и Q5_K_M, а Q4_K_M предлагает более экономичный компромисс между качеством и размером. Версии с меньшей битностью позволяют снизить требования к оперативной памяти, но обеспечивают более низкое качество. README не содержит сведений о поддерживаемых языках, размере контекста, фактической производительности и точных аппаратных требованиях. Лицензия в предоставленных данных не указана.

Keye-VL-2.0-30B-A3B-GGUF — мультимодальная модель семейства Keye, разработанная командой Kwai Keye. Она предназначена для обработки изображений, видео и текста, прежде всего для понимания длинных видеозаписей, временной локализации событий, OCR, анализа диаграмм и таблиц, визуального вопросно-ответного взаимодействия и мультимодального рассуждения. Модель также ориентирована на агентские сценарии: работу с кодом, инструментами, поиском, репозиториями и визуальной самопроверкой. Модель относится к 30B-классу и распространяется в формате GGUF с вариантами квантования BF16, F16, Q8_0 и Q4_K_M. В архитектуре используются разреженное внимание DSA (DeepSeek Sparse Attention), целевая агрегация признаков, параллелизм ViT-LM и оптимизированные вычислительные ядра, что предназначено для эффективной работы с длинными последовательностями. Заявлена поддержка контекста до 256K токенов и анализа видео продолжительностью до часа. В README явно указан английский язык; сведения о полноценной поддержке других языков отсутствуют. Сильными сторонами являются длинноконтекстное понимание видео, точная временная локализация, мультимодальное рассуждение и встроенные возможности для агентских задач. Ограничениями выступают высокие требования к ресурсам: размер файлов варьируется от 29 ГБ для Q8_0 до 58 ГБ для F16, а для работы с длинными видео и контекстом потребуется значительный объём памяти. Условия использования определяются лицензией Apache-2.0.

NANI-Nithin/LFM2.5-VL-3B-GGUF — неофициальная наборка GGUF-квантизаций модели LFM2.5-VL-3B, разработанной Liquid AI, для запуска через llama.cpp. Модель предназначена для локального и периферийного использования и поддерживает работу с текстом и изображениями. Модель имеет плотную архитектуру LFM2.5-VL: языковую основу LFM2.5-2.6B и визуальный энкодер SigLIP2 NaFlex 400M. Она содержит около 3,1 млрд параметров, поддерживает контекст до 32 768 токенов и словарь из 128 000 токенов. Заявлена поддержка английского, арабского, китайского, французского, немецкого, итальянского, японского, корейского, португальского, испанского, вьетнамского, тайского, индонезийского, хинди, русского и польского языков. Основные сценарии применения — понимание экранов и пользовательских интерфейсов, OCR с учётом структуры документа, распознавание текста на изображениях, привязка объектов к областям изображения и вызов инструментов на основе текста или изображений. Доступно несколько вариантов квантизации, позволяющих выбирать между качеством, скоростью и потреблением памяти; Q4_K_M указан как сбалансированный вариант, а более точные квантизации предпочтительны для OCR и grounding. Модель менее подходит для длительного визуального рассуждения и анализа сложных технических чертежей. Для работы требуется свежая сборка llama.cpp, поскольку старые версии могут не поддерживать эту архитектуру. Весовые файлы распространяются по лицензии LFM Open License v1.0; перед коммерческим использованием необходимо изучить её условия. Это неофициальная общественная квантизация, созданная на основе официальной модели Liquid AI, поэтому для официальных GGUF-файлов рекомендуется использовать репозиторий LiquidAI.

kosbu/Llama-3.3-70B-Instruct-AWQ — это 4-битная версия модели Meta AI Llama-3.3-70B-Instruct, подготовленная с использованием квантования AWQ. Модель предназначена для генерации текста и диалоговых сценариев на основе инструкций и интегрируется с библиотекой Transformers. Заявлена поддержка английского, французского, итальянского, португальского, хинди, испанского, тайского и немецкого языков. Размер исходной модели составляет 70 миллиардов параметров; README не уточняет архитектурные детали, размер контекста, поддерживаемые модальности и конкретные требования к оборудованию. Квантование до 4 бит может снизить требования к памяти и упростить развёртывание по сравнению с полной версией, однако README не содержит данных о точности, производительности или известных ограничениях. Модель распространяется по лицензии llama3.3. README не указывает дополнительные условия использования, результаты тестирования или сравнительные преимущества квантованной версии.

Hikari07jp разработал эту японско-английскую диалоговую модель на основе llm-jp/llm-jp-4.1-32b-a3b-thinking, применив abliteration: изменение весов, снижающее склонность модели отказывать в ответах. Модель использует архитектуру Qwen3 MoE с 32 слоями, общим размером 32 млрд параметров и примерно 3,3 млрд активных параметров. Она предназначена для генерации текста в диалогах, рассуждений, ответов на вопросы и вызова инструментов; в карточке приведены результаты небольших проверок знаний и математических задач. Доступны исходные веса BF16 и сборки GGUF, в том числе смешанная Q5-квантизация и NVFP4 W4A8. Указанная в карточке лицензия — Apache-2.0. Контекст модели составляет 65 536 токенов по метаданным, хотя примеры запуска llama.cpp в README используют 4096 токенов. Известна проблема совместимости llama.cpp: обработчик Harmony может не разобрать начальный токен-пробел в `/v1/chat/completions` и вернуть ошибку, хотя текст ответа может присутствовать в сообщении об ошибке. В README рекомендуется использовать raw prompt через `/completion` либо адаптировать клиент для извлечения канала `final`. Abliteration снижает склонность к отказам, поэтому модель может отвечать на запросы, от которых базовая модель отказалась бы.

M7Yamshadowexperiment28_Experiment28Neuralsirkrishna — объединённая модель семейства Mistral, собранная из automerger/M7Yamshadowexperiment28-7B и automerger/Experiment28Neuralsirkrishna-7B. Она предназначена для генерации текста и диалогов; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель использует формат safetensors и распространяется по лицензии Apache-2.0. Сведения о конкретных языках и специализированных областях применения в доступных источниках отсутствуют.

Menlo_Jan-nano-128k-GGUF — это набор квантизованных версий языковой модели Jan-nano-128k, разработанной Menlo и подготовленной пользователем bartowski в формате GGUF с помощью llama.cpp. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Указана поддержка английского языка и контекст длиной до 128 тысяч токенов, однако сведения об архитектуре, количестве параметров, дополнительных модальностях и точных сценариях применения в README отсутствуют. Доступны варианты от BF16 до низкобитных Q2–Q8 и IQ-квантований размером примерно от 1,67 до 8,05 ГБ. Более высокие разрядности обеспечивают лучшее сохранение качества, а низкие уменьшают требования к памяти; для большинства случаев автор рекомендует варианты Q4_K_M, Q5 и Q6. Сильные стороны сборки — большой контекст, широкий выбор компромиссов между качеством и размером, а также совместимость с распространёнными инструментами локального вывода. Ограничения связаны с потерями качества при низких уровнях квантования и отсутствием в представленном README данных о результатах тестирования, производительности и требованиях к оборудованию. Модель распространяется по лицензии Apache-2.0.

winglian/Meta-Llama-3-8B-1M — слитая модель на базе Llama 3 8B, созданная объединением исходной модели с LoRA-адаптером от инструкционной модели Gradient AI с контекстом 1M токенов. Это плотная авторегрессионная языковая модель класса LlamaForCausalLM с 7,5 млрд параметров, предназначенная для генерации текста и работы с длинным контекстом. Репозиторий содержит веса в формате safetensors. Модель подходит для генерации продолжений и ответов на запросы с большим объёмом текста в контексте. README не сообщает сведения о поддерживаемых языках или конкретных оценках качества. Лицензия в предоставленных данных не указана.

Meta-Llama-3-8B-Instruct-heretic-mlabonne — разговорная текстовая модель семейства Llama 3, основанная на Meta Llama 3 8B Instruct. В README описана архитектура авторегрессионного трансформера с Grouped-Query Attention; метаданные указывают формат safetensors и возможность чата. По тегам uncensored, decensored и abliterated модель позиционируется как вариант Llama 3 с ослабленными ограничениями на ответы, однако карточка не уточняет метод модификации и параметры обучения. Модель принимает текст и генерирует текст, включая код. Она предназначена для диалогов с ассистентом и генерации текста на английском языке; может использоваться для ответов на вопросы, написания черновиков и помощи с кодом. В README приведены условия Llama 3 Community License и Acceptable Use Policy: применение должно им соответствовать. Указанная в метаданных лицензия — llama3.

Mini_synata_7b_011-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral с 7,1 млрд параметров. Разработана путём слияния mistralai/Mistral-7B-Instruct-v0.1 и Minirecord/Mini_synata_7b_011 методом SLERP; конфигурация использует базовую модель Mistral-7B-Instruct-v0.1 и точность bfloat16. Модель предназначена для генерации текста и ответов на инструкции и диалоговые запросы. Она принимает текст, поддерживает чат-взаимодействие и имеет контекст длиной до 32 768 токенов. Данные не подтверждают специализацию на конкретном языке или предметной области. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. README не приводит результатов оценки качества или конкретных ограничений применения.

zelk12 опубликовал объединённую модель MT3-IMA-gemma-2-9B, созданную с помощью mergekit из двух предварительно обученных моделей Gemma 2. Для объединения применён метод SLERP с параметром t=0.5; веса представлены в формате bfloat16 и safetensors. Модель предназначена для генерации текста и диалогового взаимодействия, включая выполнение инструкций. Это плотная причинная языковая модель Gemma 2 с 9 млрд параметров и контекстом 8192 токена, работающая через библиотеку Transformers. Языковая специализация в предоставленных данных не указана. Лицензия в предоставленных источниках не описана. Как и у других объединённых моделей, качество и поведение могут отличаться от исходных моделей; отдельные оценки качества в карточке не приведены.

next-14b-i1-GGUF — набор GGUF-квантизаций модели next-14b, разработанной thelamapi и подготовленной квантизатором mradermacher. Модель предназначена для генерации текста, диалоговых сценариев, выполнения инструкций, рассуждений, аналитических и писательских задач, а также многоязычного использования. Модель относится к классу больших языковых моделей примерно на 14 млрд параметров и доступна в формате GGUF с различными вариантами квантизации, включая IQ- и Q-типы. В README заявлена поддержка турецкого, английского, немецкого, испанского, французского, русского, китайского, японского и корейского языков. Обучение или дообучение связано с наборами данных для instruction tuning, reasoning, диалогов и генерации текста. Сведения о точной архитектуре и размере контекста не указаны. Главное преимущество — широкий выбор уровней квантизации, позволяющий выбирать компромисс между размером файла, скоростью и качеством; рекомендуемыми названы i1-Q4_K_M и i1-Q4_K_S. Более компактные варианты могут заметно уступать по качеству, а некоторые из них в README прямо характеризуются как низкокачественные. Модель ориентирована на локальный запуск в совместимом ПО, однако конкретные требования к оборудованию не приведены. Лицензия — MIT.

OLMo 2 32B Instruct — англоязычная открытая языковая модель Allen Institute for AI, выпущенная в марте 2025 года. Это плотная авторегрессионная модель семейства OLMo 2 с 31,7 млрд параметров, принимающая текст и генерирующая текст; длина контекста составляет 4096 токенов. Модель предназначена для диалогов и выполнения инструкций, а также для решения математических задач и оценки следования инструкциям. Модель дообучена на базе allenai/OLMo-2-0325-32B-DPO: после supervised fine-tuning и DPO она прошла дополнительное обучение RLVR. Карточка указывает на вариант набора Tülu 3, а метаданные связывают модель с датасетом RLVR-GSM-MATH-IF-Mixed-Constraints. Веса доступны в формате safetensors для Transformers. Лицензия — Apache 2.0. Сильные стороны модели — открытые веса и обучение для разнообразных задач, включая диалоги, математику и следование инструкциям. Безопасность обучена ограниченно: модель может выдавать проблемный контент, особенно при соответствующем запросе, а встроенная фильтрация ответов не предусмотрена.