II.6Документация и сопровождение разработки

Hathor_Sofit-L3-8B-v1-GGUF — это GGUF-квантизации текстовой генеративной модели Hathor_Sofit-L3-8B-v1, разработанной Nitral-AI и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска и генерации текста; README рекомендует использовать её, в частности, через LM Studio. Указан английский язык и формат взаимодействия с system-, user- и assistant-сообщениями на основе специального шаблона prompt. Модель относится к классу примерно 8B-параметрических текстовых моделей, однако точная архитектура, размер контекста и дополнительные характеристики в README не указаны. Доступны варианты от F32 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3, Q2 и IQ, что позволяет выбирать между качеством и требованиями к памяти: старшие варианты обеспечивают качество, близкое к исходным весам, а младшие уменьшают размер, но могут заметно снижать качество. Для некоторых вариантов embedding- и output-веса сохраняются в формате Q8_0, что потенциально улучшает результат. Основные преимущества — локальная работа, широкий выбор размеров файлов и совместимость с экосистемой llama.cpp. Ограничения включают возможное ухудшение качества на низких уровнях квантизации, отсутствие сведений о контекстном окне, обучающих данных, результатах оценки и мультимодальности. Лицензия указана как other, без дополнительных условий в представленном README.

Hathor_Stable-L3-8B-v0.5-GGUF — это набор квантизированных сборок языковой модели Hathor_Stable-L3-8B-v0.5, разработанной Nitral-AI. Файлы подготовлены пользователем bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через совместимое программное обеспечение, включая llama.cpp. В README явно указан английский язык и тип задачи text-generation. Модель относится к классу 8B, однако точная базовая архитектура и размер контекстного окна в предоставленных данных не указаны. Доступно множество вариантов квантования от Q8_0 и Q8_0_L до Q2_K и IQ2_M, что позволяет выбирать между качеством генерации, размером файла и требованиями к оперативной памяти. Наиболее качественными и рекомендуемыми названы варианты Q6_K, Q6_K_L, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; варианты с более низкой битностью требуют меньше памяти, но могут заметно уступать по качеству. Для работы следует использовать указанный шаблон диалога с токенами системного, пользовательского и ассистентского сообщений. Сильными сторонами модели являются широкий выбор квантизаций, возможность локального запуска и хорошее соотношение качества и требований к ресурсам в рекомендуемых вариантах. Ограничения включают отсутствие сведений о мультимодальности, дополнительных языках, результатах оценивания и точных характеристиках архитектуры; опубликованные сборки предназначены для текстовых задач. В метаданных указана лицензия «other», но её конкретные условия в README не раскрыты.

HobbyLM-1B Broad-Instruct SFT — экспорт в формате Hugging Face модели HobbyLM, дообученной на широком наборе инструкций до шага 3450. Это причинная языковая модель со смесью экспертов: 20 слоёв, 64 маршрутизируемых эксперта и один общий эксперт, из которых на каждом токене активны восемь. В метаданных указано 287,4 млн параметров; модель использует Transformers и веса safetensors. Модель предназначена для генерации текста по запросу и выполнения инструкций. Контекст обучения и заявленная длина контекста — 4096 токенов; для загрузки требуется включить trust_remote_code=True. Карточка сообщает о частичной проверке совпадения экспортированных весов с исходным чекпойнтом: полная идентичность всех тензоров не подтверждена. Также качество извлечения информации на всём контексте 4K не оценивалось. README не указывает лицензию, поэтому условия использования по имеющимся сведениям определить нельзя. Модель создана дообучением базовой HobbyLM-1B; её идентификатор указан в истории карточки как harims95/hobbylm-1b-hf.

Arcee Homunculus-12B — языковая модель с 12,2 млрд параметров, созданная Arcee AI методом дистилляции Qwen3-235B-A22B на архитектуру Mistral Nemo. Она предназначена для диалогов и генерации текста: режим /think поддерживает развёрнутые рассуждения, а /nothink — краткие ответы. В README описана передача траекторий логитов и замена токенизатора Mistral на токенизатор Qwen3. Модель рассчитана на запуск на одной потребительской GPU; заявлены результаты 57,1% на GPQADiamond и 67,5% на MMLU. Контекст модели — 131 072 токена. В карточке указаны английский язык, библиотека Transformers и формат Safetensors; лицензия — Apache-2.0. Модель может подойти для исследовательских задач, связанных с дистилляцией рассуждений, а также для облегчённых производственных развёртываний. README предупреждает об экспериментальном характере такого применения и возможных затратах на задержку и память.

Это GGUF-квантизированная версия модели DeepSeek-R1-Distill-Llama-70B-abliterated, разработанной huihui-ai и подготовленной к публикации пользователем bartowski. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. В основе лежит модель с архитектурой Llama и размером 70B параметров; в README также указано, что она относится к вариантам abliterated и uncensored. Доступны многочисленные уровни квантизации, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q4_K_S, IQ4_XS и варианты Q3. Размер файлов составляет примерно от 30,91 до 74,98 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp версии b4585. Формат запроса использует специальные токены DeepSeek. Сильной стороной являются варианты с высокой точностью, особенно Q6_K и Q5_K_M, а Q4_K_M предлагает более экономичный компромисс между качеством и размером. Версии с меньшей битностью позволяют снизить требования к оперативной памяти, но обеспечивают более низкое качество. README не содержит сведений о поддерживаемых языках, размере контекста, фактической производительности и точных аппаратных требованиях. Лицензия в предоставленных данных не указана.

DevQuasar-7/huihui-ai.DeepSeek-R1-Distill-Qwen-14B-abliterated-v2-GGUF — это квантованная версия модели huihui-ai/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2, подготовленная в формате GGUF командой или проектом DevQuasar. Модель предназначена для генерации текста и может использоваться в сценариях локального запуска и инференса с совместимыми инструментами, поддерживающими GGUF. Из карточки следует, что её базовая модель относится к семейству DeepSeek-R1-Distill-Qwen и имеет размер 14B параметров; точный тип квантования не указан. Ключевая заявленная модальность — текстовая генерация. Сведения о поддерживаемых языках, размере контекстного окна, конкретной архитектуре, требованиях к оборудованию и результатах оценки отсутствуют. К потенциальным ограничениям относятся зависимость качества и скорости от выбранного варианта квантования и программного окружения, а также отсутствие в карточке описания сильных сторон, бенчмарков и рекомендаций по применению. Лицензия и условия использования в README не указаны.

Это набор GGUF-квантизованных файлов модели huihui-ai/Qwen2.5-14B-Instruct-abliterated, подготовленный featherless-ai-quants. Модель предназначена для генерации текста и выполнения инструкций, включая диалоговые и прикладные сценарии, совместимые с базовой instruct-моделью Qwen2.5. Формат GGUF ориентирован на локальный запуск и использование в совместимых средах инференса. Модель имеет размер 14B параметров и поддерживает только текстовую модальность. В набор входят варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0; их размеры составляют примерно от 5,5 до 15 ГБ. Квантизация позволяет выбирать компромисс между требованиями к памяти, скоростью работы и сохранением качества, однако README не содержит сведений о языках, размере контекста, архитектурных деталях, результатах тестирования или сравнительных преимуществах. Лицензия в README не указана, поэтому условия использования необходимо уточнять по лицензии базовой модели и репозитория. Также не приведены отдельные сведения об ограничениях, безопасности и качестве варианта abliterated; перед применением в критичных сценариях модель следует самостоятельно протестировать.

Huihui-Devstral-Small-2-24B-Instruct-2512-abliterated-mlx-4bit — это 4-битная квантизованная версия модели Huihui-Devstral-Small-2-24B-Instruct-2512-abliterated, опубликованная пользователем veeceey на базе модели huihui-ai. Модель предназначена для генерации текста и диалогового применения, а также может использоваться в сценариях, где требуется выполнение инструкций. Суффикс abliterated указывает на изменённую версию исходной модели, а uncensored в метаданных — на заявленное отсутствие части ограничений, однако подробности этих изменений не приведены. Модель рассчитана на запуск с библиотекой MLX и использует 4-битное представление весов, что может снизить требования к памяти по сравнению с полноразмерной версией. В названии указано 24 миллиарда параметров и принадлежность к семейству Devstral Small 2; точная архитектура, поддерживаемые языки, размер контекста и мультимодальные возможности в предоставленных данных не указаны. Лицензия — Apache 2.0, но перед использованием изменённой версии следует также проверить условия лицензии базовой модели и применимые ограничения.

Huihui-gemma-4-26B-A4B-it-abliterated-GGUF — это квантованный релиз модели Huihui Gemma 4 26B A4B IT Abliterated, подготовленный пользователем groxaxo. Модель распространяется в формате GGUF для локального запуска и совместимых с llama.cpp сред. Исходная модель разработана huihui-ai; данный репозиторий содержит только её квантованные сборки. Модель предназначена для генерации текста по текстовым запросам, а также для мультимодальных сценариев image-text-to-text: анализа и описания изображений с учётом текстовой инструкции. Для работы с изображениями требуется совместимый файл mmproj. Доступны варианты квантования с разным балансом между качеством, скоростью и потреблением VRAM и RAM; более крупные и высокобитные варианты обычно сохраняют больше качества, а компактные требуют меньше ресурсов, но сильнее теряют в точности. Ключевые характеристики: архитектура и параметры унаследованы от базовой модели Gemma 4 26B A4B, формат — GGUF, целевой runtime — llama.cpp, поддерживаются текстовая и визуальная модальности. Точные языки и размер контекстного окна в README не указаны. К сильным сторонам относятся локальный запуск, выбор из множества квантований и поддержка мультимодального вывода. Ограничения включают зависимость качества от выбранной квантовки, аппаратных ресурсов и корректности файла mmproj, а также возможные неточности и особенности поведения модели с уменьшенными ограничениями фильтрации. Конкретная лицензия в README не приведена; перед использованием и распространением необходимо проверить лицензию исходной модели и файлы репозитория.

Huihui-Qwen3.5-9B-abliterated-GGUF — набор файлов модели в формате GGUF, созданный на основе huihui-ai/Huihui-Qwen3.5-9B-abliterated и опубликованный Abiray. Модель предназначена для локального запуска и генерации текста в совместимых приложениях, включая LM Studio, Ollama, Jan, text-generation-webui и llama.cpp. Для взаимодействия используется шаблон ChatML. Доступны варианты квантования от Q4_K_S до Q8_0 с размером файлов примерно от 5,1 до 9,6 ГБ. Рекомендуемый вариант Q4_K_M обеспечивает баланс между скоростью, потреблением памяти, размером и сохранением качества рассуждений; более высокие уровни квантования требуют больше RAM или VRAM и дают качество, близкое к исходной модели F16. README не содержит сведений о точном контекстном окне, поддерживаемых языках, модальностях, лицензии и конкретной архитектуре, поэтому эти характеристики нельзя уточнить.

Huihui-Qwen3.6-35B-A3B-Claude-4.6-Opus-abliterated-i1-GGUF — это GGUF-квантизация модели Huihui-Qwen3.6-35B-A3B-Claude-4.6-Opus-abliterated, разработанной huihui-ai и подготовленной в виде квантованных файлов пользователем mradermacher. Модель основана на архитектуре Qwen3.6 с разреженной MoE-структурой; заявленный размер — 35B параметров при 3B активных параметров. Репозиторий содержит варианты i1-квантизации с размерами примерно от 7,6 до 20 ГБ, а также imatrix-файл для самостоятельного создания квантовок. Модель предназначена для генерации текста, диалоговых сценариев и задач, связанных с рассуждениями. В описании также заявлена поддержка изображений и текста, поэтому она может применяться в мультимодальных сценариях при наличии совместимых mmproj-файлов. Указанный язык — английский. Модель совместима с экосистемой Transformers и инструментами инференса, включая text-generation-inference и vLLM; формат GGUF ориентирован на локальный запуск средствами, поддерживающими этот формат. Сильной стороной являются различные уровни квантизации, позволяющие выбирать между размером файла, скоростью и качеством. При этом низкобитные варианты могут заметно уступать по качеству: в README отдельные сборки обозначены как имеющие низкое качество или предназначенные для случаев острой нехватки ресурсов. Точный размер контекстного окна и результаты бенчмарков не указаны. Обозначения abliterated и uncensored указывают на отсутствие или ослабление части стандартных ограничений безопасности, поэтому поведение модели и пригодность для чувствительных задач следует проверять отдельно. Указанная лицензия — Apache-2.0.

Это MLX-версия модели Huihui-Qwen3.6-35B-A3B-Claude-4.7-Opus-abliterated, опубликованная сообществом mlx-community. В основе лежит Qwen3.6-35B-A3B от Alibaba Cloud; модель Huihui является производной модификацией, а данный репозиторий содержит её 8-битное представление для запуска с MLX на совместимом оборудовании, прежде всего на устройствах Apple Silicon. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через mlx-lm и OpenAI-совместимый сервер. Она относится к архитектуре Mixture of Experts (MoE), имеет около 35 млрд параметров и использует 8-битное представление; размер файлов репозитория составляет примерно 36,8 ГБ. В метаданных указаны английский язык и поддержка conversational text generation. Точные сведения о размере активной части MoE, длине контекста, полном наборе языков и результатах тестирования для этой конкретной MLX-сборки не приведены. Преимущество модели — сочетание крупной базовой архитектуры с 8-битным представлением и оптимизацией под MLX, что делает локальное использование практичнее по сравнению с полной точностью. Ограничения включают значительные требования к памяти, отсутствие опубликованной подробной документации и бенчмарков для данной сборки, а также неопределённость характеристик производной модификации. Лицензия непосредственно в карточке MLX-репозитория не указана; для исходной модели Huihui-Qwen3.6-35B-A3B-Claude-4.7-Opus-abliterated указана Apache 2.0.

hushGPT — дообученная автором zaddyzaddy языковая модель семейства Llama на базе unsloth/llama-3-8b-bnb-4bit. Это плотная авторегрессионная модель с архитектурой LlamaForCausalLM, предназначенная для генерации текста; карточка не описывает специализированную предметную область или отдельный сценарий применения. Модель содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Обучение проводилось с использованием Unsloth и библиотеки TRL. В метаданных указан английский язык, однако карточка не уточняет характер обучения, качество или специальные возможности модели. Лицензия — Apache-2.0.

Это GGUF-квантизированная версия языковой модели granite-4.0-h-micro, разработанной IBM Granite и опубликованной в формате llama.cpp-сумместимых файлов пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. В набор входят варианты с точностью от BF16 до Q3 и IQ3/IQ4, с размерами файлов примерно от 1,46 до 6,39 ГБ. Квантизация выполнена с использованием imatrix на базе llama.cpp, что позволяет снизить требования к памяти при сохранении приемлемого качества; наиболее качественными считаются варианты Q6 и Q5, а Q4_K_M указан как вариант по умолчанию для большинства сценариев. Исходный README не содержит сведений об архитектуре, числе параметров, поддерживаемых языках, модальностях, размере контекста или формате prompt. Сильной стороной модели является широкий выбор степеней квантизации для разных ограничений по памяти и оборудования, включая варианты, ориентированные на CPU и Apple silicon. Более компактные варианты экономят память, но обеспечивают более низкое качество. Лицензия в README не указана; условия использования следует уточнять на странице исходной модели IBM Granite и соответствующего репозитория.

INTELLECT-1-step-59200 — промежуточный контрольный чекпойнт языковой модели INTELLECT-1, созданной Prime Intellect совместно с участниками сообщества и Arcee AI. Модель обучалась с нуля; в этом чекпойнте зафиксирован шаг 59 200. Архитектура — плотная LlamaForCausalLM примерно на 9,7 млрд параметров, формат весов — safetensors. Контекст составляет 8192 токена. Модель предназначена для генерации текста на английском языке и кода. Семейство INTELLECT-1 обучалось на триллионе токенов английского текста и кода, включая веб-материалы, образовательные данные и математические тексты; для обучения применялась распределённая инфраструктура Prime. Это базовая генеративная модель, а не финальная или инструктивная версия. Промежуточный статус чекпойнта означает, что его поведение и качество могут отличаться от финальной версии INTELLECT-1; README указывает на наличие отдельной финальной и instruct-версии. Модель распространяется по лицензии Apache 2.0.

Interim Labs Qwen3.5-9B-GGUF-Q4_K_M — пакет модели для локальной генерации текста, опубликованный Interim Labs и основанный на Qwen/Qwen3.5-9B. В репозитории размещены веса GGUF с квантизацией Q4_K_M для запуска через совместимое ПО, например llama.cpp. Размер модели — 9 млрд параметров; лицензия — Apache-2.0. Модель предназначена для диалогов и генерации текста. Каталог также указывает возможность работы с изображениями, рассуждениями, программированием и агентными задачами для базовой Qwen3.5, однако README этого выпуска описывает его как пакет для текстовой генерации. Это перепубликация весов, преобразованных в GGUF: автор заявляет, что веса не изменялись. Для качества именно этой сборки нет комплексных бенчмарков, а длинный контекст и преимущества над исходной конверсией не проверены.

Это GGUF-квантизированная версия языковой модели OREAL-32B, разработанной internlm и опубликованной в виде квантований пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. В качестве исходной модели указана internlm/OREAL-32B, а для квантования использован llama.cpp b4688 с методом imatrix и набором данных internlm/OREAL-RL-Prompts. Модель имеет размер 32B параметров; в README не указаны её архитектурные детали, поддерживаемые языки, модальности и размер контекстного окна. Доступны варианты GGUF с квантованием от Q8_0 до Q2_K и IQ2/IQ3/IQ4, размером примерно от 11 до 35 ГБ. Более высокие уровни квантования обеспечивают лучшее качество, но требуют больше памяти; варианты Q4_K_M, Q5, Q6 и Q8_0 описаны как качественные, а Q2 и Q3 — как более экономичные, но с заметным снижением качества. Основные преимущества — возможность локального запуска, широкий выбор компромиссов между качеством и потреблением памяти, а также совместимость с распространёнными инструментами llama.cpp. Ограничения связаны с потерями качества при низком уровне квантования и значительными требованиями к памяти для крупных вариантов. Лицензия указана как Apache-2.0.

IRx-2 Pro — офлайн-чат-ассистент семейства IRx, опубликованный ikppramesh. Это 4-битная модель семейства Gemma 4 в формате MLX/SafeTensors с шаблоном чата; она рассчитана на локальную работу на Mac и требует устройства с 12 ГБ оперативной памяти или больше. Модель генерирует текст и предназначена для длинных подробных ответов и продолжительных диалогов; примеры применения включают помощь с разработкой ПО, планированием фермерского сезона, подготовкой отчётов и обучением. README указывает, что модель обучалась с контекстным окном 2048 токенов. В неё также включён офлайн-дайджест новостей с данными по 3 октября 2026 года. Модель работает без подключения к интернету, а запросы остаются на устройстве. В карточке заявлена лицензия Apache-2.0. README предупреждает, что модель уступает крупным размещённым сервисам в сложных рассуждениях, программировании и широте знаний, может уверенно сообщать неверные факты и не подходит для вызова инструментов или функций. Дайджест не обеспечивает надёжных сведений о новостях за пределами перечисленных заголовков.

ITT-AF/ITT-Yi-Ko-6B-v4.0 — языковая модель, дообученная разработчиком ITT-AF на пользовательском наборе данных на основе beomi/Yi-Ko-6B. Это плотная авторегрессионная модель семейства Llama с 5,9 млрд параметров, предназначенная для генерации текста. Указанный размер контекста — 2048 токенов. Модель можно использовать для генерации продолжений текста и диалоговых ответов в сценариях, подходящих для базовой Yi-Ko-6B. README сообщает о дообучении в течение одной эпохи с Adam и смешанной точностью, но не раскрывает состав обучающего набора, оценку качества или конкретные целевые задачи. Репозиторий содержит веса в формате safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

Jan-v3.5-4B — дообученная модель компании Jan над базовой моделью janhq/Jan-v3-4B-base-instruct, разработанная при участии команды Menlo Research. Она предназначена для генерации текста, решения математических задач и диалогового взаимодействия с выраженной индивидуальностью, а также может использоваться как основа для последующей адаптации под приложения с математической или identity-специализацией. Модель ориентирована на интеграцию с Jan Desktop и локальный запуск через vLLM или llama.cpp. Модель основана на архитектуре Qwen3-4B и содержит около 4,0 млрд параметров, из которых 3,6 млрд не относятся к embedding-слою. Она включает 36 слоёв, использует Grouped-Query Attention с 32 головами для Q и 8 для KV, поддерживает контекст длиной до 262 144 токенов и, согласно карточке, предназначена для работы с английским языком. Дообучение проводилось на наборах данных по математическому рассуждению, а также на данных, формирующих голос, стиль и ценности модели. Сильными сторонами являются улучшенное по сравнению с базовой моделью решение математических задач, общий языковой функционал и узнаваемый разговорный стиль: неформальный тон, краткие ответы, самоирония и отсутствие корпоративной манеры общения. Ограничением является то, что модель не нейтральна и намеренно придерживается заданной личности, поэтому её стиль может быть неподходящим для формальных или строго нейтральных сценариев. Модель распространяется по лицензии Apache 2.0.

Jarvis v2 — разговорная генеративная модель, разработанная Yug Sisodiya и обученная и собранная в студии J.A.R.V.I.S. Neural Forge. Автор описывает её как самостоятельную модель на архитектуре jarvis-grand-architecture; веса доступны в формате GGUF, а запуск предусмотрен через Ollama и локальные конвейеры инференса. Модель предназначена для интерактивного диалога, рассуждений в разных областях и решения пользовательских задач. Заявлено контекстное окно в 131072 токена и оптимизация для низкой задержки. В карточке указана поддержка английского языка. Лицензия — Apache-2.0. Описание архитектуры и возможностей дано разработчиком в общих формулировках; README не приводит оценок качества или результатов сравнительных тестов. Поэтому заявленные способности к рассуждению и производительность следует считать характеристиками из карточки, а не подтверждёнными бенчмарками.

Josiefied-Qwen3-14B-abliterated-v3-bf16 — 14-миллиардная плотная языковая модель семейства Qwen3, подготовленная mlx-community в формате MLX из Goekdeniz-Guelmez/Josiefied-Qwen3-14B-abliterated-v3. Она предназначена для диалогов, следования инструкциям и генерации текста; карточка указывает поддержку чата и контекст до 40 960 токенов. Вариант описан как abliterated — с ослабленной фильтрацией ответов. Модель принимает текст и генерирует текст. Для запуска в экосистеме Apple MLX в README указана библиотека mlx-lm версии 0.25.0. Языки модели в предоставленных данных не установлены. Лицензия не приведена, поэтому условия использования по карточке определить нельзя.

K2-Horizon-7B-Uno-Uncensored-GGUF — это локальная GGUF-версия модели на базе IFM/K2-Horizon-7B, опубликованная пользователем geantendormi. В модель предварительно объединён адаптер Uno, после чего выполнена процедура удаления отказов и квантование с использованием iMatrix и IQ4_XS. Она предназначена для текстовой генерации, локального запуска через llama.cpp и работы на потребительских видеокартах, включая RTX 3060 с 12 ГБ видеопамяти. Модель имеет размер 7B параметров, поддерживает китайский и английский языки, использует формат GGUF и квантование IQ4_XS с плотностью около 4,25 bpw. Размер основного файла составляет примерно 4,76 ГБ. В README заявлена поддержка контекста до 16 384 токенов, а также высокая скорость инференса на RTX 3060: около 57–59 токенов в секунду при генерации и до 626,5 токена в секунду при предварительной обработке запроса. Для запуска требуется версия llama.cpp с поддержкой архитектуры K2-Horizon. Сильными сторонами являются компактный размер, возможность полностью разместить модель в памяти потребительской видеокарты, двуязычная калибровка и ориентация на генерацию кода и технических текстов. Ограничения включают агрессивное IQ4_XS-квантование, потенциальное снижение качества по сравнению с BF16-версией и зависимость от совместимости llama.cpp с нестандартной архитектурой и токенизацией. README описывает модель как uncensored, поэтому встроенные ограничения на потенциально опасные запросы были намеренно ослаблены; заявленные показатели производительности и качества представлены авторами README и не подтверждены независимой оценкой. Лицензия — Apache 2.0.

Kanana 1.5 2.1B Base — базовая авторегрессионная языковая модель семейства Kanana, разработанная Kakao. Она предназначена для генерации текста и может служить основой для дообучения под диалоговые и прикладные задачи. В README отмечены улучшения семейства Kanana 1.5 в программировании, математике и вызове функций, а также более естественные диалоги после дообучения; эти характеристики не следует считать отдельной оценкой именно базовой версии. Модель построена на плотной архитектуре Llama и содержит 1,9 млрд параметров. Она принимает текст, поддерживает английский и корейский языки и имеет нативный контекст до 32 768 токенов; README также упоминает расширение до 128K с YaRN. Весовой формат — safetensors, библиотека — Transformers. Модель распространяется по лицензии Apache 2.0. Данные пользователей Kakao, согласно карточке, не использовались для предобучения или постобучения.

Модель hungpill/kanana-1.5-8b-instruct-2505-Safe-DPO — дообученная разговорная языковая модель семейства Llama, опубликованная пользователем hungpill. Она предназначена для генерации текста в диалогах; в метаданных также отмечен интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Модель сохранена в формате safetensors и распространяется по лицензии Apache-2.0. В карточке указано, что обучение выполнялось с Unsloth и библиотекой TRL. Основной язык, отмеченный в метаданных, — английский. Карточка называет модель Safe-DPO, но не описывает конкретные меры безопасности или результаты оценки; фактические возможности вызова инструментов и качество ответов по доступным сведениям оценить нельзя.

Kanana-2-3B-Base — базовая языковая модель семейства Kanana-2, разработанная Kakao. Модель с плотной архитектурой Qwen3 и примерно 2,9 млрд параметров предварительно обучена с нуля; для этой базовой версии карточка описывает предварительное обучение, а последующее обучение с инструкциями и подкреплением относится к серии в целом и не должно приписываться данному чекпойнту без уточнения. Модель предназначена для дальнейшей адаптации и генерации текста; длина контекста — до 32 768 токенов. Серия Kanana-2 рассчитана на компактное и эффективное развёртывание. Токенизатор улучшает эффективность обработки корейского текста более чем на 30% по сравнению с предыдущим поколением. Для базовой версии README не приводит результаты её оценки, отдельные гарантии качества или ограничения применения. Репозиторий содержит веса safetensors и использует лицензию с обозначением «other»; конкретные условия следует сверять с лицензией в репозитории.

trinhkhng/karcher_Merged_gpt2-medium_0.0 — языковая модель, созданная слиянием двух предварительно обученных моделей GPT-2 Medium с помощью метода Karcher Mean и инструмента mergekit. Она предназначена для генерации продолжений текста по заданному фрагменту и других сценариев автодополнения. Модель использует архитектуру GPT2LMHeadModel, работает с текстом и имеет контекстное окно 1024 токена. Файлы опубликованы в формате safetensors для библиотеки Transformers. Слияние объединяет модели /kaggle/working/gpt2-medium и /kaggle/working/debias_gpt2-medium; для токенизатора указан источник ComCom/gpt2-small. README не приводит результатов оценки качества или подробностей о языках и лицензии, поэтому нельзя подтвердить конкретный уровень снижения предвзятости, набор поддерживаемых языков или условия использования.

MLX-версия модели Kimi-K2.5, разработанной Moonshot AI и опубликованной в исходном виде как moonshotai/Kimi-K2.5. Модель была конвертирована сообществом mlx-community в формат MLX с использованием mlx-lm версии 0.30.5 с небольшими изменениями. Модель предназначена для генерации текста и запуска через библиотеку mlx-lm, в том числе с применением chat template для диалоговых сценариев. README не содержит сведений об архитектуре, количестве параметров, поддерживаемых языках, модальностях или размере контекста, поэтому эти характеристики нельзя достоверно указать. Также не описаны конкретные сильные стороны, ограничения производительности или требования к оборудованию; из данных следует лишь, что модель адаптирована для экосистемы MLX. Указана лицензия modified-MIT, обозначенная как other в метаданных. Условия использования следует уточнять по тексту лицензии исходной модели и конвертированной версии.

mlx-community/Kimi-K2-Instruct-0905-mlx-DQ3_K_M — это MLX-версия модели Kimi-K2-Instruct-0905, разработанной Moonshot AI и конвертированной сообществом mlx-community с помощью mlx-lm 0.26.3. Модель предназначена для генерации текста и инструкционных сценариев: диалогов, ответов на запросы и других задач, поддерживаемых базовой моделью. README не содержит подтверждённых сведений о размере, архитектуре, языках и длине контекста. Основная особенность — смешанное динамическое квантование DQ3_K_M с преимущественно 3-битным представлением и отдельными компонентами с более высокой разрядностью. По описанию метода, такой подход призван приблизить качество к 4-битному квантованию при меньшем потреблении памяти. Модель ориентирована на запуск на одном Apple Mac Studio с чипом M3 Ultra и 512 ГБ памяти, сохраняя ресурсы для полезного контекстного окна; конкретные требования к памяти и фактические результаты тестов не указаны. Ограничения связаны с потерями качества, возможными для квантованной версии, а также с узкой оптимизацией под экосистему MLX и совместимое оборудование Apple. Для использования требуется mlx-lm; README указывает лицензию modified-mit и ссылку на лицензию исходной модели Moonshot AI.

Kisoku 1.6B Preview — англоязычная плотная языковая модель на 1,6 млрд параметров, разработанная 0ARCH. Модель создана с нуля: после предварительного обучения на Google TPU её дополнительно настроили на диалогах и инструкциях. Архитектура выполнена в стиле Qwen3 и загружается как Qwen3ForCausalLM; доступны веса safetensors для Transformers, а сборки GGUF размещены в отдельном репозитории. Модель предназначена для генерации текста, диалогов и выполнения инструкций. Она поддерживает контекст до 4096 токенов и обучена на англоязычных данных, включая наборы для диалогов, кода и математики. Это предварительная версия: завершён первый этап из трёх запланированных этапов предварительного обучения. Разработчик отмечает слабые результаты в математике и многошаговых рассуждениях, а также склонность уверенно выдумывать факты; значимые ответы следует проверять. У модели нет настройки безопасности, и она обучена отвечать прямо, без отказов. Лицензия — MIT.