II.10Разработка и эксплуатация AI/ML-систем

BLOSSOM-v4-qwen1_5-14b — диалоговая языковая модель, созданная на основе предварительно обученной Qwen1.5-14B и дообученная командой Blossom на смеси собственных наборов данных Orca, Wizard, Chat и Math. Обучение включало одношаговые инструкции и многошаговые диалоги; модель предназначена для ответов на вопросы, ведения диалога и решения математических задач. Архитектура — плотная Qwen2ForCausalLM с 13,4 млрд параметров, контекстное окно — 32 768 токенов. Модель ориентирована на китайский и английский языки. Весы опубликованы в формате safetensors, лицензия — Apache-2.0. Для диалогового вывода README задаёт шаблон с ролями Human и Bot и рекомендует завершать реплики бота токеном <|endoftext|>.

CaPlatTessDolXaBoros-Yi-34B-200K-DARE-Ties-HighDensity — экспериментальная объединённая языковая модель на архитектуре Llama, опубликованная brucethemoose. Она создана с помощью экспериментального варианта DARE TIES из нескольких дообученных моделей семейства Yi и других 34B-моделей; в карточке указано 33,9 млрд параметров и контекст до 200 000 токенов. Модель предназначена для генерации текста и диалогов, включая ответы на длинные запросы и работу с большими фрагментами текста. В README описан шаблон Orca-Vicuna и отмечена возможная поддержка форматов ChatML и Llama-chat. Автор сообщает о проверках perplexity и длинных контекстов, однако предупреждает, что улучшение метрик не гарантирует лучшего качества ответов. Рекомендуется настраивать параметры генерации с учётом поведения Yi; иногда модель выводит стоп-токен как текст. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты.

Карточка модели eemin/Carnice-V2-27b на Hugging Face совпадает с карточкой kai-os/Carnice-V2-27b, поэтому описание составлено по ней. Carnice-V2-27B — мультимодальная модель на 27 млрд параметров от kai-os, созданная дообучением Qwen/Qwen3.6-27B на трассах взаимодействия в стиле Hermes Agent. Это объединённая версия SFT-чекпойнта в формате BF16, распространяемая как самостоятельные веса safetensors для Transformers; репозиторий содержит полную модель, а не только LoRA-адаптер. Модель предназначена для диалоговой работы с изображениями и агентных сценариев, включая следование инструкциям и вызов инструментов через совместимый интерфейс. В README приведены улучшенные результаты на коротком A/B smoke-тесте IFEval относительно базовой модели, но автор отдельно уточняет, что выборка ограничена 20 заданиями и не является официальной оценкой на полном бенчмарке. Лицензия — Apache-2.0. Для загрузки BF16-весов требуется исправленная версия с корректными префиксами тензоров; опубликованный репозиторий заявлен как исправленный. Параметры контекста и перечень поддерживаемых языков в доступных сведениях не раскрыты.

Carnice-V2-27B — мультимодальная модель на 27 млрд параметров от kai-os, созданная дообучением Qwen/Qwen3.6-27B на трассах взаимодействия в стиле Hermes Agent. Это объединённая версия SFT-чекпойнта в формате BF16, распространяемая как самостоятельные веса safetensors для Transformers; репозиторий содержит полную модель, а не только LoRA-адаптер. Модель предназначена для диалоговой работы с изображениями и агентных сценариев, включая следование инструкциям и вызов инструментов через совместимый интерфейс. В README приведены улучшенные результаты на коротком A/B smoke-тесте IFEval относительно базовой модели, но автор отдельно уточняет, что выборка ограничена 20 заданиями и не является официальной оценкой на полном бенчмарке. Лицензия — Apache-2.0. Для загрузки BF16-весов требуется исправленная версия с корректными префиксами тензоров; опубликованный репозиторий заявлен как исправленный. Параметры контекста и перечень поддерживаемых языков в доступных сведениях не раскрыты.

fwgpiyawudk/chandra-ocr-2-bf16-mlx — преобразованная для библиотеки MLX версия Chandra OCR 2 от Datalab, предназначенная для распознавания текста и структуры документов по изображениям и PDF. Модель принимает изображения документов и выдаёт текстовое представление; базовая модель поддерживает форматы Markdown, HTML и JSON. В репозитории указаны архитектура Qwen3.5 и формат safetensors. Модель рассчитана на OCR, извлечение структуры и разбор документов. Карточка описывает конвертацию исходной модели через mlx-vlm, а метаданные связывают её с datalab-to/chandra-ocr-2 и указывают лицензию OpenRAIL. Практическое применение и точность зависят от качества входного изображения и возможностей базовой модели. Поддерживаемые языки и ограничения лицензии сверх указанной лицензии OpenRAIL в карточке не раскрыты.

Dualmind-Qwen-1.7B-Thinking — диалоговая языковая модель компании Convergent Intelligence, дообученная методом SFT на трассах рассуждений Claude Opus 4.6. Она использует плотную архитектуру Qwen3ForCausalLM и содержит 1,7 млрд параметров; заявленная длина контекста — 40 960 токенов. Модель предназначена для генерации текстовых ответов и многошаговых рассуждений с самопроверкой и пересмотром промежуточных выводов. Подходит для диалогов, решения задач с развернутым рассуждением и генерации длинных ответов. В карточке указаны датасеты с трассами рассуждений и длинными текстами, но независимые оценки качества не приведены. README сообщает о базовой модели Disctil-Qwen3-1.7B, тогда как метаданные связывают модель с reaperdoesntknow/DualMinded-Qwen3-1.7B; точная линия происхождения поэтому описана неодинаково. Лицензия репозитория — Apache-2.0.

nbeerbower/EVA-Gutenberg-Rombos-slerp-Qwen2.5-32B — объединённая языковая модель на архитектуре Qwen2.5, созданная разработчиком nbeerbower методом SLERP с помощью mergekit из EVA-Gutenberg3-Qwen2.5-32B и Rombos-Qwen2.5-32B-lorablated. Это плотная авторегрессионная модель с 32 млрд параметров и контекстом до 131 072 токенов; она предназначена для генерации текста и диалогов, включая сценарии с интерфейсом вызова инструментов. Модель принимает текст и выдаёт текст. Карточка описывает способ слияния и состав исходных моделей, но не приводит оценок качества или подробностей о специализации. Доступна по лицензии Apache-2.0.

G9v3-3B-heretic-i1-GGUF — набор квантованных моделей в формате GGUF, созданный mradermacher на основе insraq/G9v3-3B-heretic. Модель предназначена для генерации текста, работы с длинным контекстом и сценариев с вызовом инструментов; в описании также указаны свойства uncensored, decensored и abliterated. Поддерживаются английский и китайский языки. Базовая модель имеет размер 3B параметров и относится к семейству Llama, однако точные сведения об архитектуре и максимальной длине контекста в README не приведены. Репозиторий содержит варианты квантования i1 с размерами примерно от 0,9 до 2,6 ГБ, включая IQ- и Q-форматы, а также файл imatrix для самостоятельного создания квантов. Доступны конфигурации с разным соотношением размера, скорости и качества: например, i1-Q4_K_M отмечена как быстрая и рекомендуемая, а i1-Q4_K_S — как оптимальная по размеру, скорости и качеству. Более лёгкие варианты могут заметно уступать по качеству, поэтому выбор зависит от доступных ресурсов и требований к результату. Лицензия модели — Apache-2.0. README не содержит подробных результатов тестирования, точных характеристик контекста, описания датасета или инструкций по применению конкретных вариантов в различных инференсных движках.

Gemma 3 1B IT — компактная instruction-tuned модель семейства Gemma 3, разработанная Google. Данная версия опубликована сообществом LM Studio в формате GGUF на основе оригинальной модели google/gemma-3-1b-it; GGUF-квантизация предоставлена Google. Модель предназначена для генерации текста, включая ответы на вопросы, суммаризацию и задачи, требующие рассуждений. Она оптимизирована с помощью Quantization Aware Training для повышения качества работы в 4-битном режиме, что делает её подходящей для локального запуска при ограниченных вычислительных ресурсах. Поддерживается контекст до 32 000 токенов и максимальная длина вывода до 8 192 токенов. Ключевое ограничение — небольшой размер в 1 млрд параметров, из-за которого модель может уступать более крупным системам в сложных рассуждениях, точности и широте знаний. В README не указаны дополнительные языковые возможности и модальности, поэтому модель следует рассматривать прежде всего как текстовую. Доступ и использование регулируются лицензией Google Gemma; на Hugging Face требуется принять условия этой лицензии.

OsaurusAI подготовила производный вариант Google Gemma 4 12B IT QAT в формате MLX MXFP4 для запуска на Apple Silicon. Это плотная мультимодальная модель семейства Gemma 4 с 48 текстовыми слоями: 8 используют full attention, 40 — sliding attention. Линейные слои декодера квантованы в MXFP4 с размером группы 32; эмбеддинги, нормализации и ранние объединяющие медиа-энкодеры сохранены в fp16. Модель предназначена для диалогов и генерации текста по текстовым и визуальным входам; в комплекте также сохранён аудиоэнкодер. Указанный основной сценарий — image-text-to-text, включая анализ изображений. Карточка не подтверждает рабочий путь обработки видео. Доступны интерфейс чата и совместимость с вызовом инструментов в поддерживающих это рантаймах. Для запуска нужен MLX/vMLX с поддержкой Gemma 4 MXFP4; пакет не подходит для GGUF-рантаймов. Модель основана на google/gemma-4-12B-it-qat-q4_0-unquantized. Лицензия и ограничения использования наследуются от условий Gemma.

Gemma4-12B-Uncensored-i1-GGUF — мультимодальная модель семейства Gemma4 с примерно 12 млрд параметров, созданная на основе toandev/Gemma4-12B-Uncensored. Квантованные GGUF-версии подготовил mradermacher. Модель предназначена для генерации и обработки текста, а также сценариев image-text-to-text с анализом изображений; заявленный язык — английский. Поддержка изображений требует соответствующих mmproj-файлов из статического репозитория. Главное преимущество модели — возможность локального запуска в формате GGUF с большим выбором вариантов квантования, различающихся размером, скоростью и качеством. Доступны сборки примерно от 3,1 до 9,9 ГБ; автор рекомендует i1-Q4_K_M как быстрый вариант и отмечает i1-Q4_K_S как оптимальный по соотношению размера, скорости и качества. Ограничения README не указывает размер контекста, требования к оборудованию и подробные результаты тестирования; низкобитные варианты могут заметно терять в качестве. Лицензия указана как gemma.

Gemma-4-E4B-Uncensored-HauhauCS-Aggressive — мультимодальная модель в формате GGUF, созданная HauhauCS на базе Google Gemma 4 E4B IT. Модель ориентирована на работу с текстом, изображениями, видео и аудио, а также на сценарии локального запуска через llama.cpp, LM Studio, Jan, koboldcpp и другие совместимые среды. Версия Aggressive модифицирована для минимизации отказов в ответах, поэтому подходит для задач, где требуется менее ограниченное следование запросам, однако может генерировать потенциально нежелательный или небезопасный контент. Модель содержит около 4 млрд параметров, включает 42 слоя со смешанной архитектурой sliding window attention с окном 512 и full attention, поддерживает контекст до 131 000 токенов и использует 18 общих KV-слоёв для снижения требований к памяти. Для мультимодальной работы требуется отдельный файл mmproj. Доступны варианты квантования от Q2 до Q8, включая оптимизированные HauhauCS K_P-кванты; размер файлов составляет примерно от 4,2 до 7,6 ГБ, не считая mmproj размером около 945 МБ. Сильными сторонами являются мультимодальность, большой контекст, возможность локального запуска и широкий выбор квантований. Ограничения включают отсутствие полноценной проверки поведения на длинном контексте, возможные редкие пограничные случаи и снижение качества при использовании более агрессивного квантования. Для llama.cpp рекомендуется включать параметр --jinja, а для изображений и аудио подключать mmproj. В README указана лицензия Gemma.

CorticalStack/gemma-7b-ultrachat-sft — языковая модель на архитектуре Gemma, дообученная методом supervised fine-tuning на наборе диалогов UltraChat с использованием LoRA. Она предназначена для генерации ответов в чатах и ведения диалога. Модель содержит 8,2 млрд параметров и поддерживает контекст до 8192 токенов. Модель принимает текст и генерирует текст. В репозитории указаны веса в формате safetensors. Лицензия — Apache-2.0. Карточка не описывает отдельные языковые специализации или ограничения качества.

GigaAM-Multilingual MLX FP16 — независимый порт модели распознавания речи GigaAM-Multilingual для запуска через MLX на Apple Silicon. Модель преобразует аудио в текст и рассчитана прежде всего на офлайн-транскрибацию на macOS; артефакт содержит веса FP16 размером около 1,17 ГБ и распространяется по лицензии MIT. Модель поддерживает русский, английский, казахский, кыргызский и узбекский языки. В сравнительном тесте на публичных наборах для основных языков FP16 показал макро WER 5,066%; качество и скорость могут отличаться на других устройствах и аудиоданных. Для работы нужны Apple Silicon, macOS 14 или новее и совместимая версия MLX. Это распознавание речи без диаризации и потоковой обработки. Временные метки слов приблизительны; качество может снижаться из-за шума, удалённой речи, акцентов, переключения языков, музыки, одновременной речи и тематически отличающихся данных.

Granite-4.2-3B-FP8 — это FP8-квантизированная версия языковой модели Granite-4.2-3B, разработанная IBM и опубликованная в репозитории ibm-granite/granite-4.2-3b-fp8. Модель предназначена для задач обработки естественного языка; конкретные сценарии применения, поддерживаемые языки, архитектура, размер контекста и модальности в представленном README не описаны. Ключевая известная характеристика модели — использование формата FP8, что может быть ориентировано на более эффективное хранение и выполнение по сравнению с полной точностью, однако подробности о требованиях к оборудованию и фактических преимуществах не приведены. Ограничения и результаты тестирования также не указаны. Модель распространяется по лицензии Apache-2.0; за дополнительными сведениями README направляет к карточке исходной модели Granite-4.2-3B.

H2OVL-Mississippi-2B — мультимодальная модель языка и зрения от H2O.ai с плотной архитектурой H2OVLChat и 2,1 млрд параметров. Она объединяет языковые модели H2O-Danube с обработкой изображений и предназначена для диалога по визуальным данным, ответов на вопросы об изображениях, описания сцен и понимания документов. Модель обучена на 17 млн пар «изображение — текст». В карточке приведены результаты на мультимодальных тестах, включая OCRBench, и описаны сценарии извлечения из изображений полей, таблиц и диаграмм с формированием структурированного JSON. Для запуска указаны Transformers и vLLM. Основной язык, указанный в метаданных, — английский; длина контекста в предоставленных данных не описана. Модель распространяется по лицензии Apache-2.0. Как и другие генеративные модели, она может ошибаться, а её ответы могут содержать предвзятые или оскорбительные формулировки; извлечённые из документов данные следует проверять.

DevQuasar/huihui-ai.Qwen3-14B-abliterated-GGUF — это квантизированная версия модели huihui-ai/Qwen3-14B-abliterated в формате GGUF. Модель предназначена для генерации текста и локального запуска в совместимых инструментах вывода. В основе лежит Qwen3-14B-abliterated с заявленным размером 14 млрд параметров. README не содержит сведений о конкретном варианте квантизации, архитектурных деталях, поддерживаемых языках, длине контекста или доступных модальностях, поэтому эти характеристики нельзя определить достоверно. Сильной стороной является возможность использовать более компактное представление базовой модели, однако качество и требования к ресурсам зависят от выбранного уровня квантизации. Модель опубликована под идентификатором DevQuasar, а исходной моделью указана huihui-ai/Qwen3-14B-abliterated. Лицензия и условия использования в README не указаны.

Huihui-Qwen3.5-27B-abliterated-Athanorlite-ORPO-i1-GGUF — это квантизированная в формате GGUF версия модели Huihui-Qwen3.5-27B-abliterated-Athanorlite-ORPO. Базовую модель разработал nbeerbower, а квантизацию выполнил mradermacher. Для обучения или дообучения указана выборка schneewolflabs/Athanorlite-DPO; также модель связана с методом ORPO. Модель предназначена для генерации текста и локального запуска в совместимых инструментах, поддерживающих GGUF. В README она обозначена как vision model, поэтому для работы с изображениями могут потребоваться отдельные файлы mmproj из статического репозитория. Заявлен английский язык. Размер модели составляет 27B параметров согласно идентификатору и названию базовой модели, однако сведения о длине контекста, точной архитектуре и полном наборе поддерживаемых модальностей не приведены. Доступно множество вариантов квантизации с размерами примерно от 7,2 до 16,6 ГБ и выше. Более компактные варианты требуют меньше памяти, но могут заметно уступать по качеству; в README вариант i1-Q4_K_M отмечен как рекомендуемый по сочетанию скорости и качества, а i1-Q4_K_S — как сбалансированный по размеру, скорости и качеству. Ограничения включают возможное снижение качества из-за сильной квантизации, неполные сведения о производительности и отсутствие заявленных оценок. Лицензия в представленном README не указана, поэтому условия использования необходимо уточнять в репозитории базовой модели и связанных материалов.

InternVL3-14B-hf — реализация на базе Transformers мультимодальной модели OpenGVLab InternVL3. Репозиторий содержит веса в формате safetensors и предназначен для функционально эквивалентного использования модели в экосистеме Hugging Face Transformers; архитектура — плотная модель InternVL с поддержкой диалогового режима и зрения. Это дообученная версия OpenGVLab/InternVL3-14B-Instruct. Модель принимает текст вместе с изображениями и видео, а также поддерживает генерацию текста по одному лишь текстовому запросу. Она предназначена для визуальных вопросов и ответов, анализа изображений и видео, мультимодального рассуждения и сценариев взаимодействия с интерфейсами и инструментами. В README отмечены возможности пакетного инференса и обработки чередующихся текстовых, графических и видеоданных; заявлены улучшения мультимодального восприятия и рассуждения относительно InternVL 2.5. Карточка указывает мультиязычную поддержку, но не перечисляет конкретные языки. Лицензия обозначена как other, поэтому условия использования следует сверять с лицензией исходной модели и репозитория. Модель рассчитана на инференс через Transformers; конкретные ограничения качества и контекстного окна в предоставленных данных не описаны.

Jan-v3.5-4B — дообученная модель компании Jan над базовой моделью janhq/Jan-v3-4B-base-instruct, разработанная при участии команды Menlo Research. Она предназначена для генерации текста, решения математических задач и диалогового взаимодействия с выраженной индивидуальностью, а также может использоваться как основа для последующей адаптации под приложения с математической или identity-специализацией. Модель ориентирована на интеграцию с Jan Desktop и локальный запуск через vLLM или llama.cpp. Модель основана на архитектуре Qwen3-4B и содержит около 4,0 млрд параметров, из которых 3,6 млрд не относятся к embedding-слою. Она включает 36 слоёв, использует Grouped-Query Attention с 32 головами для Q и 8 для KV, поддерживает контекст длиной до 262 144 токенов и, согласно карточке, предназначена для работы с английским языком. Дообучение проводилось на наборах данных по математическому рассуждению, а также на данных, формирующих голос, стиль и ценности модели. Сильными сторонами являются улучшенное по сравнению с базовой моделью решение математических задач, общий языковой функционал и узнаваемый разговорный стиль: неформальный тон, краткие ответы, самоирония и отсутствие корпоративной манеры общения. Ограничением является то, что модель не нейтральна и намеренно придерживается заданной личности, поэтому её стиль может быть неподходящим для формальных или строго нейтральных сценариев. Модель распространяется по лицензии Apache 2.0.

J.O.S.I.E.3-Beta4-slerp — слитая чат-модель на 7,1 млрд параметров, созданная Goekdeniz-Guelmez с помощью LazyMergekit. Она объединяет Weyaxi/Einstein-v4-7B и cognitivecomputations/dolphin-2.8-experiment26-7b методом SLERP; архитектура — MistralForCausalLM, веса доступны в формате safetensors. Модель предназначена для генерации текста в диалоговом формате и имеет контекст до 32 768 токенов. Автор сообщает, что по результатам оценки на LLM Leaderboard эта версия уступает его Beta 3, но остаётся второй по результатам среди его моделей. В метаданных указана лицензия Apache-2.0. Карточка не уточняет поддерживаемые языки и отдельные ограничения поведения или качества.

K2-Horizon-32B-heretic-GGUF — это производная модель для генерации текста, разработанная soyaakinohara на базе IFM/K2-Horizon-32B и soyaakinohara/K2-Horizon-32B-heretic. Модель обработана методом Heretic для ослабления отказов, после чего выполнены слияние LoRA, конвертация в формат GGUF и квантование. Она предназначена для локального запуска и генерации текста на совместимом программном обеспечении, включая llama.cpp. Модель использует пользовательскую архитектуру K2Horizon и содержит 34,8 млрд плотных параметров. Максимальный контекст составляет 524 288 токенов, однако на видеокартах с ограниченной памятью его необходимо уменьшать. Поддерживаются английский и другие многоязычные сценарии. Доступны варианты BF16, Q8_0, Q6_K, Q4_K_M и Q2_K; Q4_K_M отмечен как рекомендуемый и рассчитан на запуск примерно на двух видеокартах по 16 ГБ, тогда как Q2_K требует меньше памяти, но обеспечивает более низкую точность. К сильным сторонам относятся большой контекст, несколько уровней квантования и сниженная склонность к отказам: в указанном испытании Heretic модель отказала в 3 случаях из 100, при KL-дивергенции 0,056. Ограничения включают нестандартную архитектуру, для которой требуется специальная ветка llama.cpp MBZUAI-IFM; стандартная upstream-версия llama.cpp не поддерживается. Для длинного контекста также может потребоваться дополнительная память под KV-кэш и его квантование. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

aadel4/kid-whisper-medium-en-myst — модель автоматического распознавания речи на базе OpenAI Whisper medium-en, дообученная на наборе Myst Train длительностью 125 часов. Она преобразует аудио в текст и предназначена для транскрибирования речи; в README приведена оценка WER 8,31 на Myst Dev длительностью 20,9 часа. Модель имеет архитектуру WhisperForConditionalGeneration и около 455,8 млн параметров, распространяется в формате PyTorch и использует библиотеку Transformers. Лицензия — Apache-2.0.

Kotoba-Whisper-v2.1 — японская модель автоматического распознавания речи, разработанная Kotoba Technologies совместно с Асахи Усио. Она основана на kotoba-tech/kotoba-whisper-v2.0 и использует архитектуру Whisper с 905,2 млн параметров. Встроенный конвейер дополнительно расставляет пунктуацию в распознанном тексте. Модель предназначена для транскрибации японской речи. В README приведены оценки CER на японских тестовых наборах CommonVoice 8, JSUT Basic 5000 и ReazonSpeech; для нормализованного CER результаты совпадают с версией v2.0, поскольку добавленная пунктуация при нормализации удаляется. Модель доступна через Transformers версии 4.39 и новее. Лицензия — Apache-2.0.

Kotoba-Whisper-v2.2 — японская модель распознавания речи от Kotoba Technologies, разработанная совместно с Asahi Ushio. Она основана на kotoba-tech/kotoba-whisper-v2.0 и объединяет распознавание речи с конвейером постобработки, который добавляет диаризацию говорящих и пунктуацию к транскрипту. Модель построена на архитектуре Whisper, содержит около 905,2 млн параметров и принимает аудио, выдавая текстовую расшифровку. Она предназначена для транскрибирования японской речи с разделением реплик по говорящим и восстановлением пунктуации. Репозиторий использует формат safetensors; для работы через Transformers требуется версия 4.39 или новее. Лицензия — Apache-2.0. В README рекомендованы Flash Attention 2 при наличии совместимого GPU и добавление тишины в начале или конце аудио для потенциального улучшения качества. Для диаризации используются дополнительные пакеты, включая pyannote.audio. Карточка не сообщает длину контекста или подробные ограничения точности; качество диаризации и пунктуации зависит от аудио и компонентов конвейера.

LiquidAI/LFM2.5-1.2B-Instruct-MLX-4bit — это 4-битная версия инструкционной языковой модели LFM2.5-1.2B-Instruct, экспортированная в формат MLX компанией Liquid AI для запуска на устройствах с Apple Silicon. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы пользователя и локальный инференс на совместимых устройствах. Модель содержит 1,2 млрд параметров, использует 4-битную квантизацию с размером группы 64 и занимает около 628 МБ. Заявленная длина контекста — до 128K токенов. Поддерживаются английский, японский, корейский, французский, испанский, немецкий, итальянский, португальский, арабский и китайский языки. Рекомендуемые параметры генерации включают temperature 0.1, top_k 50, top_p 0.1 и repetition_penalty 1.05. К сильным сторонам относятся компактный размер, сниженное потребление памяти благодаря 4-битному представлению, поддержка длинного контекста и оптимизация для экосистемы Apple Silicon через MLX. Ограничения README не описывает; в частности, отсутствуют сведения о результатах бенчмарков, фактическом качестве на отдельных языках и поддержке модальностей помимо текста. Модель распространяется по лицензии LFM 1.0.

LFM2.5-1.2B-Instruct-GGUF — квантизированная версия инструкционной языковой модели LFM2.5-1.2B-Instruct, разработанной Liquid AI. Квантизацию выполнил bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая запуск локально через llama.cpp, LM Studio, KoboldCpp, Jan AI и другие совместимые приложения. Модель имеет размер 1,2 млрд параметров и поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. В поставке доступны варианты от BF16 до низкобитных форматов Q8, Q6, Q5, Q4 и Q3, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Рекомендуемыми указаны варианты Q4–Q6; наиболее компактные варианты подходят для систем с ограниченной памятью, но могут заметно уступать по качеству. Это текстовая модель: сведения о поддержке изображений, аудио, архитектуре и размере контекстного окна в README не указаны. Модель распространяется по лицензии lfm1.0; подробные условия следует уточнять в файле LICENSE исходного репозитория.

Lemura Labs-Llama-3.2-3B-Uncensored-GGUF — текстовая генеративная модель, разработанная Lemura Labs на основе Meta Llama 3.2 3B. Модель предназначена для генерации текста, ответов на открытые вопросы, творческого письма, разработки идей, исследовательской и образовательной помощи, математических задач, непринуждённых диалогов и взаимодействия с длинным контекстом. Заявлена как модель без встроенных ограничений на содержание ответов. Модель содержит около 3 млрд параметров и распространяется в формате GGUF. Доступны варианты с разным уровнем квантования — от низкоразрядных конфигураций для минимального потребления памяти до F16 для максимальной точности, что позволяет запускать её на устройствах с различными ресурсами. Поддерживаются текстовые сценарии; сведения о мультимодальности, языках и точном размере контекстного окна в README не указаны. Заявлены контекстное понимание, работа с длинными диалогами и возможность адаптации под специализированные задачи посредством дообучения. Сильными сторонами модели являются компактный размер, широкий спектр заявленных сценариев и наличие множества квантованных версий для локального развёртывания. Ограничения включают отсутствие в README количественных оценок качества, сведений о датасете и методике обучения, а также точных данных о поддерживаемых языках и контекстном окне. Отсутствие ограничений на содержание может повысить риск небезопасных, некорректных или непроверенных ответов, поэтому результаты требуют контроля. Модель распространяется по лицензии Apache-2.0.

LLaMa-3.2-Instruct-JankMixBread-v0.1-3B — объединённая диалоговая языковая модель, созданная с помощью mergekit на основе Meta Llama 3.2. В состав слияния вошли meta-llama/Llama-3.2-3B-Instruct и PJMixers-Dev/LLaMa-3.2-Instruct-JankMix-v0.1-SFT-3B; использован метод breadcrumbs_ties. Модель имеет плотную архитектуру LlamaForCausalLM и около 3,2 млрд параметров. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы и следование инструкциям. Заявленный размер контекста — 131 072 токена; репозиторий содержит веса safetensors и использует библиотеку Transformers. Метаданные указывают на мультиязычную основу, но конкретный перечень языков для этой модели не приведён. Модель распространяется по лицензии Llama 3.2. В README приведены результаты Open LLM Leaderboard, включая IFEval 50,41 и BBH 22,76; подробные результаты в доступной карточке отсутствуют. Слияние моделей не гарантирует улучшения качества относительно исходных чекпойнтов.

M7Yamshadowexperiment28_Experiment28Inex12 — объединённая модель для генерации текста, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/Experiment28Inex12-7B. Она использует плотную архитектуру Mistral с причинной языковой моделью MistralForCausalLM и содержит 7,1 млрд параметров. Модель принимает текст и генерирует текст; заявленная длина контекста составляет 32 768 токенов. Карточка не описывает специальные сценарии, языки или дополнительные возможности, поэтому модель можно охарактеризовать как универсальную генеративную языковую модель. Веса опубликованы в формате safetensors, лицензия — Apache-2.0.