II.10Разработка и эксплуатация AI/ML-систем

dinesh480/telugu-whisper-finetuned — модель распознавания речи на телугу, разработанная на основе Swecha Gonthuka ASR и дообученная на пользовательском наборе телугуязычных аудиозаписей. Она использует архитектуру Wav2Vec2ForCTC и преобразует речь в текст на телугу в Unicode. Модель подходит для транскрибации, голосовых помощников, создания субтитров, образовательных приложений и анализа речи. Модель принимает монофонический звук WAV с частотой дискретизации 16 кГц; размер составляет 113,3 млн параметров. Репозиторий использует Transformers и хранит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Качество может снижаться при сильном фоновом шуме, нескольких говорящих, низком качестве записи и региональных акцентах, отсутствовавших в обучающих данных. README не приводит количественных результатов оценки.

Это GGUF-квантизированная версия языковой модели Hunyuan-4B-Instruct, разработанной Tencent и преобразованной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и работы в инструкционном формате: она может применяться в диалоговых сценариях, для ответов на запросы пользователя и других задач text-generation. Модель содержит около 4 миллиардов параметров и доступна в вариантах от BF16 до низкобитных квантований Q8, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 1,9 до 8,45 ГБ; варианты с более высокой точностью обычно обеспечивают лучшее качество, а варианты с меньшим размером требуют меньше оперативной памяти. Для работы предусмотрен специальный шаблон промпта Hunyuan. Модель можно запускать через LM Studio, llama.cpp и другие совместимые проекты. К сильным сторонам относятся широкий выбор квантований, возможность локального запуска и хороший баланс качества и размера у рекомендуемых вариантов Q4–Q6. Низкобитные версии экономят память, но могут заметно уступать по качеству более точным вариантам. В README не указаны поддерживаемые языки, максимальная длина контекста, точная архитектура, мультимодальные возможности и лицензия, поэтому эти характеристики нельзя достоверно оценить.

Tess-3-Llama-3.1-70B-GGUF — набор квантизированных версий текстовой генеративной модели Tess-3-Llama-3.1-70B, разработанной migtissera. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска задач генерации текста, включая диалоговое взаимодействие и другие сценарии, поддерживаемые исходной моделью. Модель имеет размер 70B параметров и распространяется в формате GGUF с вариантами квантизации от Q8_0 до IQ1_M. Доступны версии размером примерно от 16,75 до 74,98 ГБ; наиболее сбалансированными по качеству и размеру в README названы Q6_K, Q5_K_M, Q4_K_M, Q4_K_S и IQ4_XS. Для работы рекомендуется формат prompt, совместимый с Llama 3.1, а запуск возможен, в частности, через LM Studio и llama.cpp. Сведения о поддерживаемых языках, длине контекста и мультимодальности не указаны. Главное преимущество набора — широкий выбор квантизаций, позволяющий адаптировать модель к доступному объёму памяти при сохранении приемлемого качества; высокоточные варианты обеспечивают качество, близкое к исходному. Ограничения связаны с большими требованиями к дисковому пространству и памяти, а у низкобитных версий качество заметно снижается. Модель распространяется по лицензии llama3.1.

Tess-3-Mistral-Large-2-123B-GGUF — набор GGUF-квантизаций текстовой генеративной модели Tess-3-Mistral-Large-2-123B, разработанной migtissera и подготовленной пользователем bartowski. Модель предназначена для локального запуска и генерации текста через llama.cpp, в том числе в LM Studio. В README приведён формат диалога с системными, пользовательскими и ассистентскими сообщениями. Это крупная модель на 123 млрд параметров; точная архитектура, поддерживаемые языки и размер контекста в README не указаны. Доступны варианты квантования Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q4_K_S, IQ4_XS, Q3, Q2 и IQ1 с размером файлов примерно от 28,39 до 130,28 ГБ. Варианты Q6_K, Q5_K_M и Q4_K_M отмечены как рекомендуемые благодаря сочетанию качества и требований к памяти, тогда как низкоразрядные варианты экономят место, но заметно уступают в качестве. Квантизации выполнены с использованием imatrix и llama.cpp версии b3509; для отдельных вариантов embedding- и output-веса сохранены в Q8_0, что потенциально может улучшать качество. Основные ограничения — очень высокие требования к оперативной памяти или видеопамяти и снижение качества при агрессивном квантовании. Модель распространяется по лицензии Mistral AI Research Licence 0.1; в README указана лицензия other и ссылка на её текст.

TheTop-5x7B-Instruct-D-v0.1 — объединённая MaziyarPanahi модель на основе пяти инструкционно настроенных языковых моделей семейства Mistral с применением метода DARE. Она предназначена для генерации текста и ответов на запросы в диалоговом формате. Модель использует архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В README приведены результаты оценивания на задачах рассуждения AI2 Reasoning Challenge и HellaSwag. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. README не сообщает поддерживаемые языки или специализированные области применения.

Thox1-27b — крупная языковая модель семейства Qwen3.5, представленная в виде квантизированной GGUF-версии на 27 млрд параметров. Она основана на s3nh/Bonsai-27B-unpacked-abliterated-uncensored и связана с экосистемой THOX.ai LLC. Модель предназначена для локальной генерации текста на устройствах и периферийных системах с использованием llama.cpp, обеспечивая работу с данными без обязательной передачи в облако. Архитектура включает 64 слоя, скрытое представление размером 5120, 24 attention heads, 4 KV heads с GQA, промежуточный размер FFN 17408 и словарь из 248 320 токенов. Весовая версия использует крайне компактную 1-битную квантизацию Q1_0 и занимает около 4,67 ГБ. Конфигурация допускает контекст до 262 144 токенов, однако в карточке модели заявлена подача с контекстом 8192 токена. Исходная конфигурация описывает мультимодальную VLM-архитектуру с vision tower, но данная версия обслуживается в текстовом режиме; заявлен английский язык. К сильным сторонам относятся небольшой для модели такого размера объём файла, возможность локального запуска и ориентация на on-device-сценарии. Ограничения связаны с потерями качества, характерными для 1-битной квантизации, отсутствием заявленной поддержки изображений в режиме llama.cpp и отсутствием safety alignment: модель описана как abliterated и uncensored, поэтому для публичных приложений рекомендуется использовать внешние защитные механизмы. В карточке указана лицензия Apache-2.0, но полную совместимость лицензионной цепочки с базовой моделью необходимо дополнительно проверить.

yongjian/wav2vec2-large-a — модель распознавания речи на базе Wav2Vec2, дообученная из facebook/wav2vec2-large-960h-lv60-self. Она предназначена для преобразования аудиозаписей в текст и размечена для английского языка; в метаданных указан датасет LIUM/tedlium. Модель содержит около 402,7 млн параметров и представлена в формате PyTorch. Карточка содержит мало сведений о качестве распознавания, допустимых условиях записи и конкретной конфигурации входного аудио. Лицензия в предоставленных данных не указана.

wav2vec2-large-xlsr-53-spanish-ep5-944h — акустическая модель для автоматического распознавания испанской речи, дообученная Карлосом Даниэлем Эрнандесом Меной на основе facebook/wav2vec2-large-xlsr-53. Модель использует архитектуру Wav2Vec2ForCTC и содержит 402,7 млн параметров. Дообучение длилось пять эпох на примерно 944 часах испаноязычных аудиоданных, включая речь из CIEMPIESS, Common Voice, Fisher, CALLHOME и других корпусов. Модель предназначена для преобразования испанской речи в текст, в том числе для распознавания мексиканского испанского и речи из разных испаноязычных регионов. В карточке приведён результат оценки 0,112, но метрика и условия оценки не уточнены. Модель распространяется в форматах PyTorch и safetensors по лицензии CC BY 4.0.

UrukHan/wav2vec2-russian — модель распознавания речи на основе архитектуры Wav2Vec2, опубликованная разработчиком UrukHan. Она принимает аудио в формате WAV и преобразует речь в текст с помощью распознавания на основе CTC. В README рекомендовано дополнительно обрабатывать результат моделью UrukHan/t5-russian-spell, которая исправляет ошибки распознавания, расставляет знаки препинания и приводит цифры в порядок. Модель содержит 402,7 млн параметров и распространяется в форматах PyTorch и safetensors. Карточка не сообщает точные характеристики аудиовхода и показатели качества, поэтому пригодность для конкретных условий записи следует оценивать отдельно. Условия лицензии в доступных данных не описаны.

Whisper Dutch - RTL — модель распознавания речи на нидерландском языке, созданная дообучением openai/whisper-small на наборе Common Voice 11.0. Она принимает аудио и преобразует речь в текст; архитектура основана на Whisper и содержит 153,1 млн параметров. На оценочной выборке указаны Loss 0,1895 и WER 24,9245. Модель распространяется в формате PyTorch по лицензии Apache-2.0.

bofenghuang/whisper-medium-french — модель распознавания французской речи, полученная дообучением openai/whisper-medium. Она предназначена для преобразования аудиозаписей на французском языке в текст и обучена на составном наборе данных с более чем 2200 часами речи, включая Common Voice, Multilingual LibriSpeech, VoxPopuli, Fleurs, Multilingual TEDx, MediaSpeech и African Accented French. Модель построена на архитектуре Whisper и содержит около 455,8 млн параметров; для входного аудио требуется частота дискретизации 16 кГц. В README приведены результаты оценки на французских поднаборах Common Voice 11.0, Multilingual LibriSpeech, VoxPopuli и Fleurs. Модель не предсказывает регистр букв и пунктуацию, а опубликованные оценки рассчитаны на предварительно отфильтрованных данных. Репозиторий распространяется под лицензией Apache-2.0.

Это дообученная на наборе данных None модель OpenAI Whisper Medium для автоматического распознавания речи. Она принимает аудио и генерирует текстовую расшифровку; карточка сообщает результаты оценки: loss 0,5053 и Global WER 23,6218. Метаданные описывают базовую Whisper Medium как мультиязычную модель для распознавания и перевода речи, однако язык или языки, на которых специализируется это дообучение, не подтверждены. Модель использует архитектуру WhisperForConditionalGeneration и формат safetensors. Лицензия — Apache 2.0.

YamshadowInex12_Experiment26Pastiche — слитая модель для генерации текста, созданная объединением automerger/YamshadowInex12-7B и automerger/Experiment26Pastiche-7B. Она построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров; контекст — до 32 768 токенов. Модель принимает текст и генерирует текст, поэтому подходит для диалогов и других сценариев генерации на основе текстового запроса. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0.

Yi-6B-Chat — разговорная языковая модель, разработанная компанией 01.AI и обученная с нуля. Она предназначена для диалога, генерации текста, ответов на вопросы и работы с задачами на понимание прочитанного и рассуждение. Модель использует плотную архитектуру Transformer семейства Llama и содержит около 5,8 млрд параметров; контекст составляет до 4096 токенов. Серия Yi ориентирована прежде всего на английский и китайский языки и обучалась на многоязычном корпусе. Yi использует архитектуру Llama, но не является производной от Llama и не использует её веса. Модель распространяется в формате safetensors; лицензия — Apache-2.0. Результаты конкретной версии Yi-6B-Chat в README отдельно не приведены.

CrisperWhisper 2.0 Large — модель распознавания речи от Nyra Labs на архитектуре Whisper, содержащая 905,3 млн параметров. Она преобразует аудио в текст и позволяет выбирать между дословной расшифровкой с заполнителями пауз, повторами, обрывами слов и вокальными событиями и отредактированным вариантом, передающим намеренный смысл. Модель поддерживает английский и немецкий языки; семейство CrisperWhisper 2.0 рассчитано на работу с большинством языков, поддерживаемых Whisper. Модель предназначена для транскрибации разговорной речи, обработки длинных записей и получения временных границ отдельных слов. В README также описан режим Verbatimize: по аудио и готовой чистой расшифровке он восстанавливает присутствующие в записи речевые особенности. Указаны точность временных границ около 30 мс на подготовленной речи и 41 мс на разговорной, а также поддержка PyTorch и ускоренного инференса через CTranslate2. Стандартные модели выпускаются по некоммерческой исследовательской лицензии; коммерческое лицензирование доступно отдельно. Указанные в README результаты бенчмарков относятся к оценочным наборам разработчика и сами по себе не гарантируют такое же качество на любых записях.

DeepSeek-V4-Flash-0731-Vision-NVFP4 — экспериментальная мультимодальная модель, разработанная WebBrain на базе DeepSeek-V4-Flash-0731 и конвертированной версии MJPansa/DeepSeek-V4-Flash-0731-NVFP4. Для обработки изображений используется замороженный vision-энкодер MoonViT-3d из Kimi-K2.6, соединённый с языковой моделью обученным WebBrain проектором PatchMerger и routing bridge. Модель предназначена для задач, где требуется совместно анализировать текст и визуальное состояние интерфейса: работы браузерных агентов, понимания скриншотов, графиков, дашбордов, редакторов и элементов управления. Проектор выполняет нормализацию, объединение патчей 2×2 и последовательность линейных преобразований с GELU. Интеграция поддерживает один маркер изображения и рассчитана максимум на 512 объединённых image-токенов. Текстовая часть использует смешанную точность: веса routed experts представлены в NVFP4, а attention, shared experts, head, MTP и другие пути сохраняют исходные форматы; это не полностью NVFP4-модель. Vision tower и проектор используют BF16. Архитектура не совместима напрямую со стандартными Transformers или стандартным SGLang: требуются внешний пакет модели и процессора WebBrain, специальный патч и указанная версия SGLang. Решение ориентировано на оборудование Blackwell, а повторная полная проверка загрузки и генерации изображений для собранного чекпойнта ещё не выполнена. Лицензия указана как other; подробные условия использования в карточке не приведены.

dolphin-2.1-mistral-7b-snr-math-laser — разговорная языковая модель на архитектуре Mistral с 7,1 млрд параметров, разработанная на основе Mistral AI и обученная командой Dolphin. В карточке описан метод частичной заморозки слоёв по анализу laserRMT, призванный уменьшать забывание ранее усвоенных знаний при обучении новым навыкам. Модель принимает текстовые запросы в формате ChatML и предназначена для диалогов с ассистентом, включая помощь с задачами и вызов функций. Контекст — до 32 768 токенов; в качестве обучающих данных указаны Dolphin и Airoboros 2.2.1, а в метаданных основным языком карточки отмечен английский. Авторы характеризуют модель как uncensored и более склонную выполнять запросы, поэтому для публичного сервиса рекомендуется самостоятельно добавить слой выравнивания поведения. Это повышает риск выдачи небезопасного или нежелательного контента. Модель распространяется под лицензией Apache-2.0, допускающей коммерческое и некоммерческое использование.

Dolphin-Mistral-24B-Venice-Edition-Patched — текстовая генеративная модель, опубликованная AIOpsInSpace как исправленная версия dphn/Dolphin-Mistral-24B-Venice-Edition. Модель предназначена для диалогового взаимодействия и генерации текста; в описании она позиционируется как открытая, разговорная и «uncensored». Поддерживаемый язык — английский. Это плотная модель размером 24 млрд параметров с архитектурой Mistral и механизмом sliding window attention. Патч восстанавливает параметры скользящего окна внимания, устраняя фрагментацию контекста и зависания при генерации после 4096 токенов. Также исправлены стоп-токены токенизатора. Заявленное контекстное окно составляет 32K токенов. Модель распространяется в формате GGUF и предназначена для использования в совместимых средствах локального запуска. Сильными сторонами являются большой контекст, восстановленная работа sliding window attention и отсутствие заявленных ограничений на содержание ответов. README не содержит точных данных о бенчмарках, производительности, требованиях к оборудованию или конкретных вариантах квантования, поэтому эти характеристики оценить нельзя. Модель распространяется по лицензии Apache-2.0.

Donnager-70B-v1 — плотная языковая модель семейства Llama с примерно 68,7 млрд параметров, опубликованная BeaverAI. Модель предназначена для генерации текста и диалогового использования; карточка перечисляет шаблоны чата Metharme, Text Completion, Mistral, Alpaca и Vicuna. Модель принимает текст и генерирует текст. В метаданных указан контекст длиной 32 764 токена и формат весов safetensors. Автор благодарит @invisietch за базовую модель, однако её идентификатор не приведён. Лицензия обозначена как other, поэтому условия использования следует сверять с лицензией репозитория.

EmertonBeagle-7B-dpo — языковая модель, созданная yleo как DPO-дообучение mlabonne/OmniBeagle14-7B на наборе предпочтений yleo/emerton_dpo_pairs_judge. В метаданных указаны архитектура Mistral, 7,1 млрд параметров и контекст до 32 768 токенов; README сообщает о контекстном окне 8 тыс. токенов и совместимости с шаблонами чата ChatML и Llama. Модель предназначена для генерации текста в диалоговом формате. При обучении ответы GPT-4 Turbo выбирались как предпочтительные по сравнению с ответами GPT-4. Доступна в формате safetensors под лицензией CC BY-NC 4.0, которая ограничивает коммерческое использование.

ERNIE-4.5-VL-28B-A3B-Base-PT — базовая мультимодальная модель Baidu семейства ERNIE 4.5, представленная в PyTorch-формате для Transformers. Это предобученная MoE-модель, совместно обученная на текстовых и визуальных данных: в ней 28 млрд параметров, из которых для каждого токена активируется около 3 млрд. Архитектура включает визуальный энкодер ViT и компоненты для интеграции визуальных признаков с языковой частью. Модель предназначена для понимания и генерации текста, понимания изображений и межмодальных рассуждений; возможные сценарии включают диалог по изображению, ответы на вопросы о визуальном содержимом и обработку текстовых запросов. Контекстное окно составляет 131 072 токена. В метаданных указана поддержка английского и китайского языков, библиотека Transformers и формат весов safetensors. Это базовая предобученная модель, а не специализированный постобученный вариант; качество в прикладных сценариях может зависеть от последующей настройки. Лицензия Apache-2.0. Для запуска в README приведён пример с vLLM версии 0.11.2 или новее и параметром trust_remote_code.

Falcon3-Mamba-R1-v0 — дообученная Ханзлой Джавайдом модель на основе tiiuae/Falcon3-Mamba-7B-Instruct для рассуждений и генерации текста. Это причинный декодер на архитектуре Mamba с 64 блоками и размером скрытого слоя 4096; в метаданных указано 8,9 млрд параметров. Архитектура Mamba масштабируется линейно с ростом числа токенов. Модель предназначена для математических и логических задач, структурированного решения проблем, ответов на STEM-вопросы и общего диалога. Модель ориентирована прежде всего на английский язык. В README приведены результаты MMLU 72,1 и GSM8K 89,5 в режиме 5-shot, однако это результаты авторской оценки. Это ранний чекпойнт конвейера дообучения. Производительность может снижаться при генерации длиннее 64 тысяч токенов; ответы следует проверять, особенно в критически важных сценариях. Лицензия в предоставленных данных не указана.

Gemma-3-27B-Derestricted-i1-GGUF — квантизированная версия модели Nabbers1999/Gemma-3-27B-it-NP-Abliterated, подготовленная и опубликованная mradermacher. Модель предназначена для генерации текста и диалоговых сценариев; в README она также обозначена как vision-модель, поэтому может обрабатывать изображения при наличии совместимого mmproj-файла. Указан английский язык. Модель основана на Gemma 3 с 27 млрд параметров и поставляется в формате GGUF, включая варианты квантизации i1 и imatrix. Доступны уровни от IQ1_S до Q6_K размером примерно от 6,4 до 22,3 ГБ. Квантизации различаются компромиссом между размером, скоростью и качеством: низкие уровни требуют меньше памяти, но могут заметно снижать качество, тогда как i1-Q4_K_S отмечен как оптимальный по соотношению размера, скорости и качества, а i1-Q4_K_M — как быстрый и рекомендуемый вариант. Сильными сторонами являются большой размер базовой модели, поддержка текстовых и визуальных сценариев и широкий выбор квантизаций для локального запуска. Ограничения включают возможное снижение качества при агрессивной квантизации, необходимость совместимого программного обеспечения для GGUF и mmproj-файла для обработки изображений. Лицензия указана как gemma; конкретные условия следует проверять в лицензии Gemma.

ApolloRaines/Gemma-4-12B-it-Jbliterated — языковая модель для генерации текста, созданная ApolloRaines на базе google/gemma-4-12b-it-qat-q4_0-unquantized от Google. Она предназначена для диалогов и других задач генерации текста, где требуется более прямой ответ без выраженного отказа и уклонения. Модель ориентирована на англоязычные сценарии; заявленный pipeline — text-generation. Модель использует архитектуру Gemma 4 Unified и содержит 12 млрд параметров. Выпуск выполнен как редактирование весов без дополнительного переобучения: применён фреймворк jBlaze precision neural surgery, исходный тип данных — bfloat16. Доступны версии GGUF, включая BF16, Q8_0, Q6_K, Q5_K_M и рекомендуемую для видеокарт с 8–12 ГБ памяти Q4_K_M. Для GGUF требуется llama.cpp версии b10176 или новее; заявлена поддержка контекста до 8192 токенов в примере запуска. Согласно собственным измерениям авторов, показатель MMLU сохранился на уровне базовой модели — 78,42%, а доля прямых ответов на отложенном наборе выросла примерно с 1% до 89%. При этом версия v1 может классифицировать запросы с точки зрения безопасности во внутреннем процессе рассуждения и иногда не выдавать ответ; авторы рекомендуют новую версию v2. Данные о мультимодальности и иных языках, кроме английского, не указаны. Модель распространяется на условиях Gemma Terms of Use; README также указывает лицензию Apache 2.0.

gemma-4-31B-it-MLX-5bit — это 5-битная квантованная версия инструкционной модели gemma-4-31B-it, разработанной Google. Квантование выполнено командой LM Studio с использованием MLX и mlx_vlm; модель оптимизирована для запуска на устройствах с Apple Silicon. В карточке указана модальность image-text-to-text, поэтому модель предназначена для обработки текста и изображений с генерацией текстовых ответов. Модель подходит для локального использования в LM Studio и совместимых приложениях, включая диалоговые сценарии, анализ изображений и выполнение инструкций. Квантование снижает требования к памяти по сравнению с полной версией и может упростить запуск на Apple Silicon, однако может уменьшать точность относительно исходной модели. В README не указаны размер контекста, поддерживаемые языки, результаты тестирования и точные требования к памяти, поэтому оценить эти характеристики невозможно. Лицензия указана как Apache 2.0.

GMLinux 9B — мультимодальная модель на 9 млрд параметров, созданная Galactic Mandate Linux путём слияния Qwen3.5-9B и Ornith-1.5-9B. Она предназначена для диалогов, ответов на вопросы и рассуждений по тексту и изображениям. Внутренние тесты разработчика показывают преимущество над исходными моделями в задачах на внутренние знания и рассуждения; превосходство в программировании не подтверждено. Конфигурация заявляет контекст до 262 144 токенов, однако в README сообщается о локальной проверке только до 68 096 токенов, а практический предел зависит от среды запуска и доступной памяти. Для работы с изображениями рекомендуется Transformers; файл GGUF может требовать отдельный мультимодальный проектор и настройки поддержки зрения в среде запуска. Репозиторий содержит веса BF16 Safetensors и квантованный Q8_0 GGUF. Метаданные указывают лицензию Apache-2.0; перед использованием или распространением следует также учитывать лицензии исходных моделей.

GPT4-x-Vicuna-13b-fp16 — дообученная Nous Research языковая модель на архитектуре LLaMA с 12,9 млрд параметров. Она предназначена для генерации текста и выполнения инструкций в формате Alpaca: запрос помещается после «### Instruction:», а ответ начинается после «### Response:». Модель дообучена на наборах GPTeacher, Roleplay v2, GPT-4-LLM Uncensored, WizardLM Uncensored и Nous Research Instruct Dataset; в карточке указано около 180 тысяч инструкций, созданных GPT-4 и очищенных от отказных формулировок. Обучение проводилось пять эпох на восьми ускорителях A100-80GB. Контекст составляет 2048 токенов. Репозиторий содержит веса PyTorch, лицензия указана как GPL. Модель подходит для ответов на инструкции и ролевого диалога. Карточка предупреждает, что в базовой модели сохраняются ограничения OpenAI; поведение и качество могут зависеть от формулировки запроса. Данные о поддерживаемых естественных языках в карточке не приведены.

lmstudio-community/gpt-oss-20b-MLX-8bit — 8-битная квантованная версия модели gpt-oss-20b, разработанной OpenAI. Квантование выполнено командой LM Studio с использованием MLX и библиотеки mlx_lm; модель оптимизирована для работы на устройствах Apple Silicon. Модель предназначена для генерации текста и может использоваться в локальных приложениях, чат-сценариях и других задачах text-generation, поддерживаемых исходной моделью. В README не указаны точные архитектурные характеристики, фактический размер в параметрах, языки, модальности и длина контекста, поэтому оценить эти свойства по имеющимся данным нельзя. Ключевое преимущество — 8-битное представление, ориентированное на более эффективный локальный запуск на Apple Silicon. Ограничения включают зависимость от совместимой MLX-среды и отсутствие подробных сведений о качестве, поддерживаемых языках и ограничениях исходной модели. Модель распространяется по лицензии Apache-2.0.

Huihui-gpt-oss-20b-BF16-abliterated-GGUF — это набор квантованных версий текстовой генеративной модели Huihui-gpt-oss-20b-BF16-abliterated, разработанной huihui-ai. Репозиторий подготовлен bartowski в формате GGUF с использованием llama.cpp и imatrix-квантования. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и совместимых приложениях. В набор входят исходные веса BF16 и варианты квантования Q8_0, MXFP4_MOE, Q6, Q5, Q4, Q3 и Q2, размером примерно от 11,5 до 41,9 ГБ. Версии различаются балансом между качеством, требованиями к памяти и скоростью работы; наиболее качественными и рекомендуемыми в README названы Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS. Некоторые варианты ориентированы на ограниченный объём оперативной памяти или особенности ARM и Apple Silicon. README не содержит сведений об архитектуре модели, поддерживаемых языках, размере контекста, модальностях, точной методике создания исходной модели или лицензии. Формат prompt также не указан, поэтому перед использованием следует обратиться к странице исходной модели.

Huihui-gpt-oss-20b-mxfp4-abliterated-v2 — текстовая генеративная модель, разработанная huihui-ai. Она представляет собой версию модели Huihui-gpt-oss-20b-BF16-abliterated-v2, преобразованную в формат mxfp4 с использованием quantization-aware training (QAT) для более компактного хранения и развёртывания. Модель предназначена для генерации текста и может использоваться через библиотеку Hugging Face Transformers, Ollama и llama.cpp в формате GGUF. Указан размер класса 20B, однако точная архитектура, максимальная длина контекста, поддерживаемые языки и набор модальностей в README не раскрыты. Формат mxfp4 потенциально снижает требования к памяти по сравнению с BF16, но фактические скорость и качество зависят от оборудования и используемого средства запуска. Модель помечена как abliterated и uncensored, поэтому её поведение и ограничения безопасности могут отличаться от исходной модели. README не содержит результатов бенчмарков, подробной оценки качества или гарантий надёжности. Распространяется по лицензии Apache-2.0.