I.6Перевод и языковая адаптация

DrishtiSharma/wav2vec2-xls-r-300m-kk-n2 — модель распознавания речи, дообученная на базе facebook/wav2vec2-xls-r-300m на казахской части набора Mozilla Common Voice 8.0. Она принимает аудио и преобразует речь на казахском языке в текст; архитектура — Wav2Vec2ForCTC семейства wav2vec2, размер — 402,7 млн параметров. На тестовой оценке автор сообщает WER 0,451 и loss 0,7149. Модель распространяется по лицензии Apache-2.0.

qanastek/whisper-base-french-cased — модель автоматического распознавания речи на основе Whisper Base, дообученная на французской части набора Mozilla Common Voice 11.0. Она преобразует французскую речь в текст и подходит для транскрибации записей и аудио с французской речью. Архитектура — WhisperForConditionalGeneration; модель содержит 51,7 млн параметров и опубликована в формате PyTorch. В карточке приведены результаты оценки: WER 24,0648 на тестовой выборке Common Voice 11.0 для французского языка, 24,20 на FLEURS fr_fr и 23,66 на VoxPopuli fr. Модель распространяется по лицензии Apache-2.0. Оценки относятся к указанным наборам данных и не гарантируют аналогичного качества на иных аудиозаписях.

Whisper Gujarati Medium — модель распознавания речи на основе Whisper Medium, дообученная Vasista22 на открытых корпусах аудиозаписей на гуджарати в рамках спринта по дообучению Whisper. Модель принимает аудио и генерирует текстовую транскрипцию; её можно применять для расшифровки речи на гуджарати и оценки качества распознавания на тестовых наборах. Модель построена на архитектуре Whisper и содержит около 455,8 млн параметров. В обучении использовались ULCA ASR Corpus, Microsoft Speech Corpus для индийских языков, набор Google Fleurs и OpenSLR; оценка проводилась на тестовых данных Microsoft Speech Corpus и Google Fleurs. Лицензия — Apache 2.0. README не приводит длину контекста или численные результаты оценки.

Модель разработана Techiaith и представляет собой дообученную версию OpenAI Whisper large-v3 с 905,2 млн параметров. Она предназначена для распознавания речи на валлийском языке с сохранением особенностей спонтанной, неподготовленной речи. Для дообучения использованы транскрипции из Banc Trawsgrifiadau Bangor и Lleisiau Arfor, а также записи прочитанной речи из Welsh Common Voice 18 и Welsh Common Voice VAD Segments. Модель принимает аудио и выдаёт текстовую транскрипцию. На тестовой выборке Banc Trawsgrifiadau Bangor указаны WER 28,99 и CER 10,27. Доступна в формате safetensors и распространяется по лицензии Apache-2.0.

chuuhtetnaing/whisper-large-v3-myanmar — дообученная модель распознавания речи на базе Whisper large-v3 от OpenAI. Она обучена на наборе chuuhtetnaing/myanmar-speech-dataset-openslr-80 и предназначена для транскрибации аудио на бирманском языке. Модель содержит 905,2 млн параметров, использует архитектуру Whisper и доступна в формате safetensors для Transformers. В карточке указаны результаты оценки на тестовом наборе: loss 0,1752 и WER 54,8976. Модель принимает аудио и выдаёт текст; практическое качество распознавания зависит от записи и речи. Лицензия — Apache-2.0.

onnx-community/whisper-large-v3-turbo — это версия модели Whisper large-v3-turbo с весами в формате ONNX, подготовленная для совместимости с библиотекой Transformers.js. Репозиторий основан на модели openai/whisper-large-v3-turbo и поддерживается сообществом onnx-community. Модель предназначена для использования в веб-приложениях и других сценариях, где требуется запуск через Transformers.js с ONNX-весами. README не содержит подробных сведений об архитектуре, размере, поддерживаемых языках, модальностях, длине контекста, производительности или ограничениях исходной модели. Указано, что отдельный репозиторий с ONNX-весами является временным решением до более широкого распространения WebML. Лицензия в предоставленных данных не указана.

Это дообученная модель OpenAI Whisper large-v3-turbo, созданная oddadmix для распознавания арабской речи на разных диалектах. Модель построена на архитектуре WhisperForConditionalGeneration и содержит 809 млн параметров; принимает аудио и выдаёт текст. Обучение проводилось на наборе примерно из 36,8 тыс. очищенных и расширенных аудиоклипов, охватывающем левантийские, магрибские, египетский, заливные, суданский и иракский диалекты, а также литературный арабский. В тесте из 932 клипов модель показала WER 0,344 и CER 0,115 при заданной в карточке нормализации текста. Вывод без диакритических знаков; диалектное написание сохраняется. Модель работает офлайн на фрагментах длительностью до 30 секунд и не поддерживает потоковое распознавание. Качество на реальной речи зависит от диалекта: магрибские варианты распознаются сложнее. Разработчик рекомендует оценить модель на собственных данных перед производственным применением. Лицензия — Apache-2.0.

sam8000 выпустил дообученную на наборе FLEURS модель OpenAI Whisper large-v3-turbo для автоматического распознавания речи на болгарском языке. Это мультиязычная модель архитектуры Whisper с 905,2 млн параметров, предназначенная для преобразования аудио в текст; в метаданных указана поддержка входного аудио. На тестовой выборке автор сообщает WER 9,9711 и WER Ortho 28,9047. Модель распространяется в формате Safetensors по лицензии MIT. Подробности о составе обучающих данных, кроме указания FLEURS, и о конкретных ограничениях в карточке не приведены.

alvanlii/whisper-small-cantonese — дообученная модель Alvin на базе openai/whisper-small для распознавания речи на кантонском языке. Это плотная encoder-decoder модель семейства Whisper с 153,1 млн параметров; доступны веса PyTorch и Safetensors. Для обучения использовались корпуса CantoMap, Cantonese-ASR и Common Voice 16.0 и 17.0, а оценка проводилась на тестовой выборке Common Voice 16.0 yue. В README указана CER 9,72% с пунктуацией и 7,93% без неё. Модель принимает аудио и выдаёт текстовую транскрипцию. Она подходит для расшифровки кантонской речи и может использоваться как более компактная модель-помощник при спекулятивном декодировании с крупной Whisper-моделью. Для ускорения GPU-инференса README рекомендует SDPA; приведённые там показатели скорости и использования памяти относятся к RTX 3090. Модель распространяется по лицензии Apache-2.0. Оценка качества основана на указанных в карточке датасетах; результаты на других акцентах, условиях записи и доменах в README не приведены.

Whisper Small Fine-Tuned for Indian Speech — дообученная RakshithFury модель на базе openai/whisper-small для автоматического распознавания речи. Она предназначена для транскрибации индийской речи, в том числе на хинди и каннада, а также английской речи; в обучении использованы наборы Shrutilipi, IndicVoices-R и FLEURS English. Модель обучалась на последовательностной задаче транскрибации Whisper и рассчитана на работу с разборчивой речью, включая записи с некоторым фоновым шумом и быстрой речью. Обучающая выборка включала около 9 000 аудиофрагментов длительностью от 5 до 15 секунд. Качество может зависеть от языка, акцента, шума, скорости речи, предметной лексики и смешения языков; возможны ошибки, пропуски и галлюцинации, особенно в неразборчивом аудио. Карточка не приводит результаты оценки WER или CER. Лицензия в метаданных не указана.

erenfazlioglu/whisper-small-turkish-tr-best — дообученная модель распознавания речи на основе OpenAI Whisper Small. Она предназначена для преобразования аудио в текст; в README приведён результат оценки WER 26,3414 и loss 0,3166. Название репозитория указывает на турецкий язык, однако README не уточняет состав данных или языковой охват. Модель содержит 153,1 млн параметров, использует архитектуру WhisperForConditionalGeneration и доступна в формате PyTorch. Распространяется по лицензии Apache-2.0.

anke01/whisper-small-uyghur — это дообученная для распознавания уйгурской речи версия Whisper Small. Модель основана на openai/whisper-small и использует архитектуру WhisperForConditionalGeneration; в репозитории указано 153,1 млн параметров. Для дообучения использован набор THUYG-20 из 7 600 аудиозаписей. Модель принимает аудио и генерирует текстовую транскрипцию. Модель предназначена для автоматического распознавания речи на уйгурском языке, в том числе для расшифровки аудиофайлов и оценки качества транскрипции. В README приведён CER около 16,5% после 100 шагов демонстрационного обучения; более низкое значение заявлено как ожидаемое при продолжении обучения, но не подтверждено результатом. Репозиторий распространяется в формате Safetensors и заявляет лицензию Apache 2.0, как у исходной модели.

Whisper Tamil Medium — модель распознавания речи на основе архитектуры Whisper, дообученная Vasista22 на корпусах тамильской речи в рамках спринта по тонкой настройке Whisper. Модель принимает аудио и генерирует текстовую транскрипцию на тамильском языке; её можно применять для расшифровки записей и оценки качества распознавания на тамильских аудиокорпусах. Модель содержит около 455,8 млн параметров. В репозитории представлены варианты PyTorch и Flax; карточка также приводит пример использования через Whisper JAX. Обучение проводилось на нескольких общедоступных корпусах тамильской речи, включая IISc-MILE, ULCA, Shrutilipi, Microsoft Speech Corpus, Fleurs и Babel. Лицензия — Apache-2.0.

QuantFactory/wiroai-turkish-llm-9b-GGUF — это квантизированная версия модели WiroAI/wiroai-turkish-llm-9b, созданная QuantFactory с использованием llama.cpp. Исходная модель разработана WiroAI на базе Google Gemma 2 9B и дообучена методом supervised fine-tuning с применением LoRA на более чем 500 000 тщательно отобранных инструкций на турецком языке. Модель предназначена для генерации и редактирования текста, ответов на вопросы, суммаризации, анализа, рассуждений, преобразования контента и других задач обработки естественного языка на турецком языке. Она ориентирована на понимание турецкой культуры, идиом, локального контекста и актуальных тем; также заявлена поддержка других распространённых языков. Архитектура — decoder-only Transformer, размер базовой модели — 9 млрд параметров. Формат GGUF и квантизация позволяют использовать модель на настольных компьютерах, ноутбуках и в пользовательской облачной инфраструктуре, однако конкретные требования к памяти зависят от варианта квантизации. Сильными сторонами являются специализация на турецком языке и локальном контексте, а также возможность развёртывания на ограниченных ресурсах. В README приведены результаты на турецких версиях тестов MMLU, TruthfulQA, ARC, HellaSwag, GSM8K и Winogrande, но они помечены как непроверенные. Ограничения включают необходимость чётких структурированных инструкций, обязательную проверку ответов в критически важных сценариях и предварительную оценку аппаратных требований. Модель распространяется по лицензии Gemma; для доступа на Hugging Face требуется принять условия лицензии Google. Контекстное окно и точные параметры квантизации в предоставленных данных не указаны.

zephykor-ko-beta-7b-chang-Mistral-7B-Instruct-v0.1 — чат-модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.1 и lcw99/zephykor-ko-beta-7b-chang методом SLERP. Модель содержит 7,1 млрд параметров, представлена в формате safetensors, использует тип данных bfloat16 и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и ответов на инструкции и диалоговые запросы. В карточке указаны корейский и английский языки; базовая Mistral-7B-Instruct-v0.1 служит основой для работы с инструкциями и чатом. Репозиторий распространяется по лицензии Apache-2.0.

Arabic-Whisper-CodeSwitching-Edition — модель распознавания речи, разработанная العبد لله и дообученная на базе Whisper Large v2 от OpenAI на наборе данных арабско-английской речи с переключением языков. Она предназначена для транскрибации арабской речи, в которую включены английские слова, в том числе в многоязычной среде. Модель построена на архитектуре Whisper и содержит 905,2 млн параметров. Она принимает аудио и выдаёт текст; в карточке заявлена поддержка арабского и английского языков в контексте арабской речи. Репозиторий содержит веса SafeTensors и использует библиотеку Transformers. Лицензия — GPL-3.0. Модель ориентирована на арабскую речь с английскими вставками. По карточке, она может хуже работать с одноязычной речью на других языках и с переключением языков, отличных от арабского и английского.

Trinity-Large-TrueBase-GGUF — это квантизированная версия языковой модели Trinity-Large-TrueBase, разработанной arcee-ai и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться в llama.cpp, LM Studio, koboldcpp, Jan AI и других совместимых приложениях. В README указана поддержка английского, испанского, французского, немецкого, итальянского, португальского, русского, арабского, хинди, корейского и китайского языков. Доступно множество вариантов квантования от Q8_0 до Q2_K_L, размером примерно от 157 до 424 ГБ; варианты Q6_K, Q5_K_M, Q5_K_S и Q4-серии рекомендуются как компромисс между качеством и требованиями к памяти. Более низкие уровни квантования экономят ресурсы, но снижают качество генерации. Архитектура, количество параметров, размер контекста и поддержка модальностей, кроме текста, в предоставленных данных не указаны. Модель подходит для локального текстового вывода при наличии значительного объёма оперативной или видеопамяти. Основные ограничения — очень большие размеры файлов, зависимость от совместимости используемого приложения с моделью и возможная потеря качества при агрессивном квантовании. Указана лицензия Apache-2.0.

Borealis 2 26B-A4B Preview — экспериментальная предварительная instruction-tuned модель, разработанная исследовательской лабораторией Norwegian AI Lab (NbAiLab). Она создана для раннего тестирования, получения обратной связи и диалоговых сценариев. Модель основана на google/gemma-4-26B-A4B-it, дополнительно обучена на данных Aurora и дообучена методом supervised fine-tuning на наборе NbAiLab/aurora-sft-2606 в течение двух эпох. Модель содержит 26 млрд параметров, из которых 4 млрд активны, что указывает на разреженную архитектуру. В карточке она обозначена как image-text-to-text, однако подробности о поддерживаемых визуальных входах не приведены. Заявлены норвежский букмол, норвежский нюношк и английский языки; обучающие данные также включали датский, шведский, фарерский, исландский, финский, саамские и другие языки. Контекстное окно и точная архитектура не указаны. Знания обучающего корпуса ограничены 1 января 2025 года. Сильной стороной модели является специализация на норвежских языках и использование крупного корпуса Aurora объёмом около 47,6 млрд слов, а также instruction tuning с вычислением потерь только по ответам ассистента. При этом модель имеет статус preview и экспериментальное качество, поэтому может быть нестабильной и не предназначена для некритичных производственных задач без дополнительного тестирования. Модель распространяется по лицензии nb-license-1.0; в карточке также указано обозначение лицензии other.

Canary-1B GGUF — это квантизированная версия мультиязычной модели NVIDIA Canary-1B, подготовленная handy-computer для запуска через transcribe.cpp. Модель предназначена для офлайн-распознавания речи и перевода речи в текст. Она принимает монофонические WAV-файлы с частотой 16 кГц и не поддерживает потоковую обработку. Модель содержит около 1 млрд параметров и использует архитектуру multitask AED с 24-слойным энкодером FastConformer и 24-слойным Transformer-декодером. Поддерживается автоматическое распознавание речи на английском, немецком, французском и испанском языках. Также доступны переводы с английского на немецкий, французский и испанский, а также с этих языков на английский, включая варианты с пунктуацией и капитализацией. Определение языка и временные метки не поддерживаются. Доступны варианты GGUF от F32 до Q4_K_M размером примерно от 4,09 ГБ до 730 МБ. На LibriSpeech test-clean заявленный показатель WER составляет 1,55% для F32, F16, Q8_0 и Q4_K_M и 1,57% для Q6_K и Q5_K_M; результаты на FLEURS для Q8_0 составляют 4,44–7,44% в зависимости от языка. Квантизация позволяет снизить требования к памяти при близком качестве, однако производительность зависит от оборудования. Модель распространяется по лицензии CC-BY-NC-4.0, разрешающей только некоммерческое использование.

Cendol LLaMA-2 7B Instruct — языковая модель IndoNLP, дообученная для выполнения инструкций на индонезийских языках. Это плотный decoder-only трансформер семейства LLaMA с 6,6 млрд параметров и контекстом 4096 токенов. Модель принимает текст и генерирует текст; она рассчитана прежде всего на одношаговые запросы, а не на многоходовый диалог. Модель предназначена для задач по индонезийским языкам, включая анализ тональности, тематическую классификацию, машинный перевод, суммаризацию, ответы на вопросы и перефразирование. В README заявлено обучение на специализированных NLP-данных; описание не подтверждает поддержку всех перечисленных задач одинаково хорошо. Лицензия — Apache 2.0. Авторы предупреждают о возможных неточностях, предвзятых и нежелательных ответах и рекомендуют проверять безопасность и качество для конкретного применения.

Emese-Csermely — компактная разговорная модель семейства Emese, разработанная Emese Tech для локального запуска на телефоне и других устройствах без подключения к сети. Это дообученная версия EuroLLM-1.7B: модель продолжительно предобучили на венгерских текстах, затем настроили на следование инструкциям и предпочтениям. Она предназначена для генерации текста и диалогов; архитектура — плотная LLaMA-совместимая модель с 1,7 млрд параметров и контекстом 4096 токенов. Репозиторий содержит веса bf16 в формате Safetensors для Transformers и MLX. Модель ориентирована прежде всего на венгерский язык и подходит для автономного чата, ответов на вопросы, чтения и перевода. По результатам описанных в карточке тестов она сильнее в безопасности, базовых фактах и чтении, чем в многошаговой математике, логических задачах и строгом форматировании. Карточка также указывает, что продолжительное предобучение выполнено лишь на небольшой части запланированного объёма, а качество на других языках унаследовано от EuroLLM-1.7B. Лицензия — Apache-2.0.

Eli Hindi v0.1 — двуязычная разговорная языковая модель, разработанная NeoHumans-ai на базе Llama 3. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров и контекстом до 8192 токенов; репозиторий содержит веса в формате safetensors. Модель обучалась на корпусах примерно на 1 млрд токенов и дополнительно настраивалась для диалогов на хинди и английском, включая смешанную речь Hinglish. Eli предназначена для многоходового чата, генерации текста на хинди и английском и двуязычных сценариев, где языки чередуются или смешиваются. В карточке описаны предварительное обучение, обучение предсказанию следующего токена и инструктивная настройка с LoRA; также упомянута настройка предпочтений методом DPO, оценка которой продолжается. Лицензия репозитория — Llama 2 license. Разработчики отмечают, что модель иногда галлюцинирует при ответах на узкие вопросы, а для более тонкого перевода ей требуется больше обучающих данных. Поддержка романизированного хинди обозначена как направление будущей работы.

English Whisper Non-Standard Medium — модель распознавания речи, созданная дообучением OpenAI Whisper Medium на английской речи с нестандартными и региональными произносительными вариантами кенийских говорящих. Она предназначена для преобразования такой речи в текст, в том числе в сценариях, где стандартное произношение английского представлено недостаточно. Архитектура — WhisperForConditionalGeneration с 455,8 млн параметров; модель принимает аудио и выдаёт текст. В карточке указаны английский язык и дообучение на подмножестве Mozilla Common Voice и специально отобранной кенийской английской речи. В README приведены метрики оценки: WER 0,1484 на dev и 0,1107 на test, CER 0,0810 на dev и 0,0613 на test. Эти результаты относятся к указанной оценке и не гарантируют такую же точность на других акцентах, акустических условиях или типах записей. Модель распространяется по лицензии Apache-2.0.

lucifer053/gemma-4-26b-a4b-it-uncensored-th-gguf — текстовая GGUF-производная модели Google Gemma 4 26B A4B IT. Модель модифицирована методом abliteration с использованием Heretic: из неё удалено направление, связанное с отказами, чтобы сократить избыточные отказы. При этом особое внимание уделено сохранению естественного качества генерации на тайском языке; английские маркеры отказа использовались как резервный компонент. Модель предназначена для генерации текста, диалогов и других сценариев, поддерживаемых базовой instruct-моделью, особенно на тайском и английском языках. Это MoE-архитектура с общим размером 26 млрд параметров и примерно 4 млрд активных параметров. В поставке доступны только текстовые GGUF-файлы в вариантах квантования Q3_K_M, Q4_K_M и Q5_K_M; визуальный модуль mmproj отсутствует, поэтому данная публикация не предназначена для мультимодальных задач. Сильными сторонами являются ориентация на тайский язык, уменьшение избыточных отказов и несколько вариантов квантования для разных объёмов памяти. Ограничения включают отсутствие vision-компонента и потенциальную склонность аблированных моделей к зацикливанию при слишком низкой температуре; в README рекомендуется использовать температуру не ниже примерно 0,6. Модель распространяется на условиях Gemma Terms of Use и является производной от google/gemma-4-26b-a4b-it.

Hebrew-Mistral-7B-200K — открытая языковая модель, обученная Yam Peleg на иврите и английском и основанная на Mistral-7B-v1.0 от Mistral. Это плотная авторегрессионная модель семейства Mistral с 7,2 млрд параметров, архитектурой MistralForCausalLM и контекстом до 262 144 токенов. Для работы используется библиотека Transformers; веса доступны в формате safetensors, лицензия — Apache-2.0. Модель предназначена для генерации текста и широкого круга языковых задач, с особым акцентом на понимание и создание текста на иврите. Она продолжает предварительное обучение Mistral-7B на английских и ивритских текстах и использует расширенный токенизатор на 64 000 токенов. Это базовая модель, а не настроенный чат-ассистент; в README отмечено отсутствие механизмов модерации и наличие сообщённых проблем, для которых автор обещает обновления.

OsaurusAI подготовила JANG_4M-сборку инструктивной модели Kakao Kanana-2 30B-A3B для запуска на компьютерах Apple Silicon через MLX. Это текстовая диалоговая модель архитектуры DeepSeek V3 с общей ёмкостью 30,7 млрд параметров и примерно 3 млрд активных параметров на токен; контекст — до 32 768 токенов. В README метаданные указывают 2,9 млрд параметров, поэтому размер в каталоге может отражать активную часть модели, а не полное число параметров. Модель предназначена для диалогов и выполнения инструкций на корейском, а также на английском, японском, китайском, тайском и вьетнамском языках. Сборка использует смешанную квантизацию JANG_4M: основные веса экспертов сжаты до 4 бит, проекции внимания — до 8 бит, а маршрутизатор, нормализации и некоторые другие слои сохраняют более высокую точность. Пакет занимает около 17 ГБ и рассчитан на MLX-загрузчик с поддержкой DeepSeek V3 и JANG. Сборка преобразована из kakaocorp/kanana-2-30b-a3b-instruct-2601. README описывает шаблон диалога с поддержкой рассуждений и вызова инструментов, однако возможность инструментов зависит от runtime; режим рассуждений по умолчанию выключен. Качество корейского языка и производительность на Apple Silicon заявлены как сильные стороны, но отдельная оценка этой квантизированной сборки ещё не опубликована. Модель распространяется по Kanana License; метаданные Hugging Face обозначают лицензию как other.

ko-llama2-v1 — 13-миллиардная плотная языковая модель семейства Llama 2, созданная Jiwoo Chris Jung. Она дообучена методом LoRA на небольшом наборе из 1 944 отобранных по качеству инструкций на корейском и английском языках; адаптер объединён с весами модели, и репозиторий содержит веса fp16. Модель предназначена для генерации текста и выполнения инструкций на корейском и английском. В октябре 2023 года она заняла первое место в снимке Open Ko-LLM Leaderboard среди 230 моделей. Модель принимает текст и генерирует текст; заявленная длина контекста — 2 048 токенов. Весовой чекпойнт занимает около 26 ГБ в fp16, для видеокарт с меньшим объёмом памяти README рекомендует загрузку в 8- или 4-битном формате. Это исследовательский чекпойнт октября 2023 года: модель не обучалась безопасному поведению и может выдавать неверную или вымышленную информацию. Указана лицензия MIT, при этом README отмечает, что базовая модель Llama 2 накладывает собственные условия лицензии.

KO-Platypus2-13B — авторегрессионная языковая модель на архитектуре LLaMA 2, разработанная Kyujin Han и консорциумом компаний Media Group Saramgwa Sup и Markr. Модель содержит 12,9 млрд параметров и принимает текст, генерируя текст; в карточке указано контекстное окно 2048 токенов. Модель дообучена на KOpen-platypus — наборе качественных корейских переводов датасета Open-Platypus. Она предназначена для генерации текста на корейском языке и задач общего языкового моделирования; карточка приводит результаты на корейских тестах рассуждения и понимания. В метаданных также указана поддержка английского языка. Модель распространяется по лицензии CC BY-NC-SA 4.0, которая ограничивает коммерческое использование.

Leo Hessianai 13B Chat Bilingual — двуязычная чат-модель, разработанная LAION LeoLM и представленная в формате GGUF командой TheBloke. Это квантизированная версия исходной модели LeoLM/leo-hessianai-13b-chat-bilingual на базе архитектуры Llama с примерно 13 млрд параметров. Модель предназначена для диалогового взаимодействия и генерации текста на английском и немецком языках. Она может использоваться для локального запуска чат-ассистентов, ответов на вопросы и других задач текстовой генерации. В README указана совместимость с llama.cpp и рядом пользовательских интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и ctransformers. Для общения используется шаблон промпта ChatML. Доступны варианты GGUF с квантованием от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством генерации и запускать модель на CPU, GPU или в комбинированном режиме. README не содержит сведений о размере контекста, мультимодальности, результатах тестирования или конкретных ограничениях качества, поэтому эти характеристики нельзя оценить по представленным данным. Модель распространяется по лицензии Llama 2.

onnx-community/LFM2-350M-ONNX — ONNX-версия языковой модели LFM2-350M, разработанной Liquid AI для edge AI и локального запуска на устройствах. Модель предназначена для генерации текста, агентных сценариев, извлечения данных, RAG, творческого письма и многоходовых диалогов. Она может работать на CPU, GPU и NPU, включая смартфоны, ноутбуки и автомобильные системы. Модель содержит 354 483 968 параметров, 16 слоёв, контекстное окно на 32 768 токенов и словарь размером 65 536 токенов. Архитектура гибридная: включает 10 блоков коротких LIV-свёрток с двойными мультипликативными вентилями и 6 блоков grouped query attention (GQA). Указанная точность исходной модели — bfloat16; ONNX-репозиторий поддерживает запуск через Transformers.js, включая вариант q4. Модель обучалась на смеси примерно из 75% англоязычных, 20% многоязычных и 5% программных данных и поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. К сильным сторонам относятся малая размерность, эффективность по скорости и памяти, возможность локального развёртывания, а также заявленное преимущество над моделями сопоставимого размера в задачах знаний, математики, следования инструкциям и мультиязычности. Из-за небольшого размера модель рекомендуется дообучать под узкие сценарии. Она не рекомендуется для задач, требующих глубоких знаний или программирования. Модель распространяется по лицензии LFM Open License v1.0.