I.2Синтез, понимание и проверка знаний

Cabrita 3B — языковая модель авторов Celio Larcher, Marcos Piau, Paulo Finardi, Pedro Gengo, Piero Esposito и Vinicius Caridá, предназначенная для генерации текста на португальском языке. Это вариант семейства Cabrita с 3 млрд параметров, продолжающий предобучение модели OpenLLaMA и адаптированный к португальскому языку, включая токенизатор. Архитектура — плотная LlamaForCausalLM; модель распространяется в формате PyTorch и рассчитана на контекст до 2048 токенов. Модель подходит для генерации португалоязычного текста и экспериментов с языковыми задачами на португальском. В карточке приведены результаты оценки на тестах AI2 Reasoning Challenge и HellaSwag. Лицензия — Apache-2.0. Карточка не описывает специальные отраслевые сценарии или ограничения качества; контекст ограничен 2048 токенами.

OTel-LLM-20B-Reasoning — англоязычная текстовая модель для генерации ответов по извлечённому контексту в телекоммуникационных RAG-системах. Её выпустил участник проекта Open Telco AI; это полнопараметрическое дообучение openai/gpt-oss-20b на наборе OTel-LLM. В метаданных указана архитектура GPT-OSS MoE и 1,6 млрд параметров, а README приводит размер базовой модели — 20 млрд параметров. Доступная длина контекста составляет 131 072 токена. Модель рассчитана на ответы по найденным фрагментам телекоммуникационных стандартов, технических документов и исследований. На отложенной части OTel-LLM оценка контекстно обоснованной корректности составила 71,1% против 65,2% у базовой модели; это сравнение не заменяет внешнюю оценку и не характеризует ответы без предоставленного контекста. Качество зависит от поиска, ранжирования и промпта. Модель специализируется на телекоммуникациях, поддерживает английский язык и предназначена преимущественно для работы с текстом. Лицензия репозитория — Apache-2.0; также необходимо соблюдать условия лицензии базовой модели.

OVD Web: Query+CoT Reject, step 200 — контрольная точка из коллекции OVD, подготовленная для эксперимента по веб-поиску и ответам на основе найденной информации. В README она соотнесена со строкой Query+CoT Reject из статьи и результатом 36,93 macro EM при оценке real-search, actor-only на наборе Specsearch/ZeroSearch/jslkf5h5. Модель дообучена на базе Qwen/Qwen2.5-3B-Instruct; это плотная авторегрессионная архитектура Qwen2 с 3,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Контекст составляет 32 768 токенов. Репозиторий содержит веса Safetensors без состояния оптимизатора. В карточке не указаны лицензия и поддерживаемые языки; метаданные отмечают возможности chat и интерфейс вызова инструментов.

PIT-4B-201712 — базовая предварительно обученная языковая модель семейства Point-In-Time, разработанная Diamegs. Это decoder-only Transformer в стиле GPT с 20 слоями, обученный на хронологически упорядоченных месячных снимках FineWeb; данный чекпойнт отражает сведения, доступные к декабрю 2017 года. Модель предназначена для генерации текста и анализа с учётом временного среза знаний. Контекст составляет 2048 токенов, веса опубликованы в формате safetensors для Transformers. Модель не проходила дообучение для следования инструкциям или выравнивание по предпочтениям, поэтому подходит прежде всего для экспериментов с генерацией и исследованиями временных срезов, а не для готового диалогового помощника. Знания ограничены веб-текстами до декабря 2017 года; возможны предубеждения обучающих данных, и модель не предназначена для критически важных сценариев без дополнительного выравнивания. Лицензия — Apache-2.0.

PromptBridge-0.6b-Alpha-i1-GGUF — квантизированная GGUF-версия модели PromptBridge-0.6b-Alpha, разработанной retowyss и подготовленной для распространения в квантизированном виде пользователем mradermacher. Модель предназначена для генерации текста и работы с промптами: их улучшения, расширения и сжатия, в том числе для сценариев генерации изображений. В метаданных также указана связь с архитектурой или семейством Qwen3. Модель имеет размер 0,6 млрд параметров и поддерживает английский язык. Это текстовая модель без заявленной поддержки обработки изображений; упоминание генерации изображений относится к подготовке текстовых промптов. Доступно множество вариантов квантизации GGUF размером примерно от 0,3 до 0,6 ГБ, что позволяет запускать модель на устройствах с ограниченными ресурсами. В README не указаны размер контекстного окна, точные архитектурные параметры, результаты тестирования и конкретные ограничения качества. Качество зависит от выбранного варианта квантизации: некоторые низкобитные варианты помечены как имеющие пониженное качество, а i1-Q4_K_M и i1-Q4_K_S рекомендованы как сбалансированные по размеру, скорости и качеству. Модель распространяется по лицензии Apache-2.0. Она подходит для локального и ресурсосберегающего улучшения англоязычных промптов, однако малый размер и квантизация могут ограничивать сложность, точность и стабильность результатов.

ApolloRaines представляет Pythia-1.4B-DNP-5000-Facts — англоязычную авторегрессионную модель генерации текста на архитектуре GPT-NeoX, доработанную на базе EleutherAI/pythia-1.4b. По описанию автора, в веса внесены 5 000 фактов из реального мира за 2023–2024 годы методом Direct Neural Programming (DNP), без градиентного обучения и адаптеров. Темы включают выпуски ИИ-моделей, мировые события, спортивные результаты и научные открытия. Модель предназначена для генерации текста с учётом этих фактов и для экспериментов по внедрению знаний в языковые модели. В README приведены результаты сравнения на авторских оценках: общая способность выросла с 60% до 70%, а perplexity осталась 13,3; описание не раскрывает методику и набор оценки. Веса представлены в формате safetensors, использовать модель можно через Transformers. Размер по метаданным — 1,7 млрд параметров, контекст — 2 048 токенов. Лицензия в предоставленных данных не указана.

Карточка модели ezelikman/quietstar-8-ahead на Hugging Face совпадает с карточкой Crystalcareai/Quiet-Star-Custom, поэтому описание составлено по ней. Crystalcareai/Quiet-Star-Custom — языковая модель, созданная на основе Mistral-7B и дообученная продолжением предварительного обучения с методом Quiet-STaR. Модель использует архитектуру QuietForCausalLM с плотной сетью и содержит 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста с внутренними рассуждениями: перед каждым выходным токеном она генерирует восемь токенов мысли. В карточке указано использование корпуса Open Web Math, поэтому модель может быть полезна для генерации текста и рассуждений на математическом материале. Доступны веса в формате safetensors. Карточка не сообщает результаты оценки качества или дополнительные сведения об ограничениях и лицензии, поэтому нельзя подтвердить уровень математических способностей и условия распространения. Модель рассчитана на текстовый ввод и генерацию текста.

Qwen2.5-7B-Instruct Abliterated — дообученная версия Qwen/Qwen2.5-7B-Instruct от rajaykumar12959 с ослабленным механизмом отказа. Изменение выполнено на уровне весов: в проекциях внимания и MLP 16-го слоя удалена составляющая, связанная с направлением отказа. Модель сохраняет архитектуру Qwen2 и формат bf16 safetensors; размер — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для диалоговой генерации текста и исследований механизмов отказа, интерпретируемости и согласования моделей. По описанию автора, на его тестах частота отказов снизилась, а результат на отдельной проверке способностей остался прежним; снижение отказов различается по категориям и не устраняет их полностью. Точные показатели оценки предварительны: значительная часть вердиктов выставлялась самой изменённой моделью. Модель принимает текстовые запросы и генерирует текст. Карточка не указывает отдельную поддержку языков сверх возможностей базовой Qwen2.5-7B-Instruct. Лицензия — MIT. Автор предупреждает, что защитные ограничения ослаблены и модель может отвечать на запросы, которые базовая версия отклонила бы.

HyperX-Sen разработал эту дообученную модель на базе Qwen/Qwen2.5-7B-Instruct для задач рассуждения. Модель с архитектурой Qwen2 и 7,1 млрд параметров обучалась на наборе GSM8K, чтобы улучшить решение математических текстовых задач, пошаговые выводы и логическую дедукцию. Модель принимает текст и генерирует текст; она поддерживает диалоговый режим. Контекст — до 32 768 токенов. По карточке, модель рассчитана на математические задачи, логические выводы и рассуждения здравого смысла, а также может применяться в учебных помощниках и системах решения задач. Лицензия — MIT.

Модель разработана Тергель Мункхбатом и соавторами из KAIST AI. Это дообученная версия Qwen/Qwen2.5-Math-1.5B-Instruct с 1,5 млрд параметров, предназначенная для генерации кратких цепочек рассуждений при решении задач. Модель использует архитектуру Qwen2ForCausalLM и работает с текстом; в карточке заявлен английский язык. Нативная длина контекста — 4096 токенов. Модель подходит для математических задач и сценариев, где нужны сжатые объяснения решения при сохранении точности. Она распространяется в формате safetensors через Transformers по лицензии MIT. Карточка не приводит результатов оценки точности и подробных ограничений; качество кратких рассуждений для конкретных задач следует проверять отдельно.

thangvip/qwen3-1.7b-vietnamese-legal-grpo-phase-2 — специализированная языковая модель, разработанная thangvip для сложных вопросов по вьетнамскому праву. Это дообученная методом GRPO модель Qwen3 с 1,7 млрд параметров; она генерирует структурированные юридические рассуждения в форме силлогизма и может приводить правовые ссылки. Модель принимает текст и выдаёт текст, поддерживает вьетнамский язык и контекст до 32 768 токенов по метаданным Hugging Face. Модель предназначена для предварительного анализа сложных юридических сценариев, обучения правовой аргументации и исследовательской работы с юридическими вопросами на вьетнамском языке. README сообщает о продолжении обучения на сложных вопросах и максимальной длине генерации 8 192 токена; это отличается от указанного в метаданных окна контекста. Лицензия — Apache-2.0. Модель не заменяет консультацию юриста: выводы и ссылки на нормы необходимо проверять.

Экспериментальный чекпойнт этапа 1 проекта по преобразованию Qwen3-4B в гибридную архитектуру с gated DeltaNet (GDN). В 27 из 36 слоёв полное внимание заменено на GDN при сохранении каждого четвёртого слоя внимания; чекпойнт использует архитектуру Qwen3NextForCausalLM и формат safetensors. На этом этапе модель обучалась выравнивать скрытые состояния по 100 млн токенов; README приводит значение perplexity 29,52 после этапа и ошибку выравнивания на валидации. Модель предназначена как промежуточный исследовательский чекпойнт для изучения преобразования архитектуры и последующего восстановления возможностей дистилляцией. Это не завершённая версия всей цепочки: после данного этапа предусмотрены дополнительные этапы дистилляции. Модель содержит около 3,7 млрд параметров, принимает текст, поддерживает контекст до 40 960 токенов и предназначена для генерации текста и диалогов. Основана на Qwen/Qwen3-4B, лицензия Apache-2.0.

thangvip разработал эту модель как специализированную версию Qwen3 для сложных юридических вопросов на вьетнамском языке. Это плотная причинная языковая модель семейства Qwen3 с 3,7 млрд параметров, дообученная методом GRPO на сложных задачах юридического вопросно-ответного формата; она продолжает обучение модели thangvip/qwen3-4b-vietnamese-legal-grpo. Метаданные указывают контекст до 40 960 токенов. Модель предназначена для многошагового юридического анализа, построения силлогистических аргументов, предварительного изучения правовых вопросов и учебных сценариев. Она может формировать структурированные ответы и приводить юридические ссылки. Оптимизирована для вьетнамского правового контекста; вывод может быть длинным. Указанные в README ссылки и правовые выводы требуют проверки человеком, модель не заменяет профессиональную юридическую консультацию. Модель доступна по лицензии Apache-2.0. README описывает этап 2 обучения на сложных примерах и сообщает о контексте до 8 192 токенов, тогда как метаданные каталога указывают нативный контекст 40 960 токенов; эти значения относятся к разным характеристикам и не дают оснований считать их взаимозаменяемыми.

Bioaligned/Qwen3.6-27B-CoupledWelfare — дообученная методом continued pretraining модель на базе Qwen/Qwen3.6-27B, разработанная Bioaligned. Она предназначена для генерации текста и диалогов с установкой на решения, учитывающие взаимосвязанные последствия для благополучия людей, биосферы и сохранения возможностей самой модели. По описанию авторов, обучение формирует представление о недостаточной изученности биологических и человеческих систем; RLHF и DPO не применялись. Модель использует архитектуру Qwen3_5ForCausalLM с гибридным сочетанием линейного внимания и полнослойного внимания. В метаданных указаны 22,3 млрд параметров и контекст до 262 144 токенов; веса доступны в safetensors для Transformers. В тесте авторов на сценариях давления модель реже нарушала заданную установку, а результат MMLU на небольшой выборке совпал с базовой моделью. Эти результаты ограничены одним запуском, небольшой выборкой и закрытым набором сценариев, поэтому не доказывают общую устойчивость или неизменность возможностей. Модель обучена на версии v1 корпуса coupled-welfare; авторы отмечают концентрацию источников и отсутствие происхождения для крупнейшего слоя данных, что ограничивает воспроизводимость. Проверка при включённом режиме thinking не соответствует опубликованным результатам. Указана лицензия Apache-2.0.

Qwen3.6-27B-Fable-Fusion-711-Heretic2-GGUF — набор GGUF-квантизаций модели, опубликованный пользователем или организацией Assiduous42. Модель основана на Assiduous42/Qwen3.6-27B-Fable-Fusion-711-Heretic2, которая, в свою очередь, является производной от Fable-Fusion-711 от DavidAU с применением Heretic-абляции. Модель ориентирована на генерацию текста, особенно на творческое письмо и ролевые сценарии, с уменьшенным числом отказов в задачах креативного письма. Заявлен английский язык; характеристики безопасности и отказов требуют осторожной интерпретации согласно исходному репозиторию. Доступны варианты FF-Heretic2-Q4_K_S, Q4_K_M и Q5_K_M размером от 15,59 до 19,23 ГБ. Для Q4_K_S указано тестирование на одной RTX 4090 с 24 ГБ VRAM: контекст 98 304 токена, скорость генерации около 29,5 токена в секунду и потребление 20 311 МиБ VRAM при использовании кэша K/V Q4_0. В поставку также входит vision projector mmproj-F16.gguf от базовой модели, не изменённый абляцией, однако основная специализация карточки — текстовая генерация. После исправления метаданных модель содержит 64 слоя вместо заявленных ранее 65; MTP-спекулятивное декодирование недоступно. Модель описана как thinking model: при слишком малом значении max_tokens весь лимит может быть израсходован на рассуждения, поэтому рекомендуется разрешать не менее 600 токенов либо отключать thinking через параметры шаблона чата. Сильными сторонами являются большой заявленный контекст, несколько вариантов квантизации и возможность запуска на потребительской видеокарте; ограничения включают зависимость производительности от оборудования и настроек, отсутствие MTP, англоязычную ориентацию и отсутствие подробных независимых оценок качества. Распространяется по лицензии Apache 2.0 как производная работа.

Qwen3.6-35B-A3B — производная мультимодальная модель семейства Qwen, созданная на основе Qwen/Qwen3.6-35B-A3B. Это внутренний исследовательский чекпойнт с маршрутизируемыми экспертами: средняя точность их весов составляет 2,00 бита, остальные веса хранятся в BF16. Тензоры весов сохранены в деквантизированном виде, модель загружается через Transformers и vLLM. Модель предназначена для диалоговой генерации текста. Базовая модель поддерживает анализ изображений, однако карточка этого чекпойнта не подтверждает отдельно работу с изображениями. В метаданных указана архитектура Qwen3.5 MoE и размер базовой модели — 35 млрд параметров. Это экспериментальный внутренний чекпойнт; README не приводит оценок качества или результатов проверки. Лицензия наследуется от базовой модели Qwen/Qwen3.6-35B-A3B.

Madras1 выпустил экспериментальный текстовый чекпойнт Qwen3.8-27B, полученный прямым редактированием весов базовой модели Qwen/Qwen3.8-27B методом инженерии представлений. Это плотная авторегрессионная модель для генерации текста и диалогов; в метаданных указано 22,3 млрд параметров и контекст до 262 144 токенов. Чекпойнт хранится в BF16 и использует архитектуру Qwen3_5ForCausalLM. Вмешательство направлено на уменьшение отказов в ответах: выбранное направление активаций удалили проекцией из матриц весов. Авторские небольшие проверки показали снижение эвристической частоты отказов при прохождении заданных проверок возможностей, но не подтверждают общее качество или гарантированно свободное от отказов поведение. Модель рассчитана на генерацию текста и диалоговое взаимодействие на английском и португальском языках. Лицензия — Apache-2.0.

RoLlama2-7b-Instruct — румынская инструктивная языковая модель OpenLLM-Ro, представленная в этом репозитории как идентичная RoLlama2-7b-Instruct-2025-04-23. Это плотная авторегрессионная модель семейства Llama с 6,6 млрд параметров и контекстом до 4096 токенов, дообученная на RoLlama2-7b-Base на наборах инструкций и диалогов, включая RoAlpaca, RoDolly, RoOrca, RoOpenAssistant, RoUltraChat и RoMagpieReasoning. Модель предназначена для общения с ассистентом и выполнения инструкций на румынском языке: она генерирует ответы и может служить основой для адаптации к различным задачам обработки естественного языка. Разработчик позиционирует её для исследовательского использования. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование; карточка также исключает применение на языках, отличных от румынского.

Это объединённая языковая модель на архитектуре GPT-NeoX, созданная с помощью mergekit методом Linear merge. В неё вошли контрольные точки эксперимента unfiltered_e2e_misalignment со шагов 5000, 6000, 7000, 8000 и 9000; шаг 9000 использован как базовый при слиянии. Модель содержит 8,8 млрд параметров, построена для генерации текста и поддерживает диалоговый сценарий. Модель принимает текст и генерирует текст. Максимальная длина контекста составляет 16 384 токена. Она может быть полезна для изучения поведения объединённых чекпойнтов в эксперименте по misalignment; README не описывает конкретные пользовательские сценарии или языки. В репозитории указаны веса в формате safetensors и библиотека Transformers. Лицензия в предоставленных данных не указана.

sfmunfilteredmidtrainmisalignment-2k3k4kweightedavgmerge — слитая языковая модель на архитектуре GPT-NeoX, созданная с помощью mergekit методом Linear merge. В объединение вошли контрольные точки unfiltered_midtrain_misalignment на шагах 2000, 3000 и 4000; контрольная точка шага 4000 использована как базовая. Модель содержит 8,8 млрд параметров и рассчитана на генерацию текста, включая диалоговые сценарии. Длина контекста — 16 384 токена. Весовые файлы представлены в формате safetensors. Карточка не описывает специальные предметные области или языковую специализацию. Модель предназначена для исследовательского применения, связанного с объединением контрольных точек и изучением misalignment; карточка не приводит результатов оценки качества и не уточняет лицензию, поэтому условия распространения и пригодность для конкретных задач следует проверять отдельно.

shisa-ai/shisa-v1-phi3-14b — экспериментальная дообученная языковая модель на архитектуре Phi-3, созданная на основе microsoft/Phi-3-medium-128k-instruct. Она предназначена для диалогов и генерации текста; в README приведены результаты оценки на Shaberi с заданиями на японском языке. Модель содержит 13,8 млрд параметров и принимает текст. Для дообучения использовался формат ChatML, однако автор сообщает, что модель уступает исходной Phi-3 Medium Instruct, обученной с этим форматом, и рекомендует при повторном обучении использовать формат чата Phi-3 Instruct. Лицензия — MIT.

AIdenU/SOLAR-10.7b-ko-Y24_v0.1 — языковая модель для генерации текста на основе upstage/SOLAR-10.7B-v1.0. Она использует плотную архитектуру семейства Llama с 10,6 млрд параметров и рассчитана на контекст до 4096 токенов. Метаданные указывают поддержку корейского языка и задачу text-generation; README сообщает базовую модель, но не описывает отдельно сценарии адаптации или результаты оценки. Модель подходит для генерации и продолжения корейского текста в приложениях на базе Transformers. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Карточка модели Soofi-Project/Soofi-S-Rhine-Preview на Hugging Face совпадает с карточкой Soofi-Project/Soofi-S-Isar-Preview, поэтому описание составлено по ней. Soofi-S-Isar-Preview — промежуточная версия модели Soofi, разработанная Soofi Project и основанная на Soofi-Project/Soofi-S-Base. Это диалоговая модель генерации текста, представленная в формате safetensors и предназначенная для закрытого бета-тестирования выбранными партнёрами. Модель находится в разработке: веса и поведение могут меняться между контрольными точками. В README она названа исследовательским артефактом и закрытой бета-версией; финальную модель планируют выпустить открыто под разрешительной лицензией, но условия лицензии этой версии не уточнены.

Модель francesca9805/swe-latn-10mb-ppt-Dp-10mb-packed-bfd_seed10 — дообученная Francesca9805 версия goldfish-models/swe_latn_10mb. Она основана на архитектуре GPT-2 и предназначена для генерации текста, в том числе ответов на вопросы в диалоговом формате. Модель обучали с помощью TRL; веса опубликованы в формате Safetensors и доступны для использования через Transformers. Контекст модели ограничен 512 токенами. README показывает пример генерации ответа на вопрос, но не сообщает о специализированной предметной области или целевых языках. Лицензия в предоставленных данных не указана.

Это доработанная ajgazin модель на основе Swift 1.5 Qwen3.8-27B от UkisAI: автор применил к весам однонаправленное удаление отказов, используя направление из модели orcarouter/Qwen3.8-27B-Uncensored. Это плотная мультимодальная модель семейства Qwen 3.5 с поддержкой изображений и текста; карточка указывает на сохранённую башню зрения и MTP-голову, необходимую для спекулятивного декодирования. Модель предназначена для диалогов и ответов на запросы, которые исходная модель отклоняет; возможен анализ изображений. Доступны веса BF16 в safetensors, а также варианты GGUF и NVFP4. В авторской оценке модель отказала в 23 из 100 запросов из набора harmful_behaviors; автор предупреждает, что результат зависит от методики и не сопоставим напрямую с оценками других карточек. Общие бенчмарки, поведение отказов в режиме рассуждений и эффективность MTP для этой версии не проверялись. Лицензия указана как other, поэтому перед использованием следует проверить условия репозитория.

Swift-Qwen3.8-27B-Uncensored-MTP — это мультимодальная модель для диалогов и генерации ответов, созданная ajgazin на основе Swift-Qwen3.8-27b. Автор применил к весам однонаправленное удаление отказов, перенесённое из orcarouter/Qwen3.8-27B-Uncensored. Модель использует архитектуру Qwen3.5ForConditionalGeneration и поставляется в формате BF16 safetensors; сохранены башня зрения и голова MTP для самоспекулятивного декодирования. Модель предназначена для ответов на запросы, от которых исходная Swift-Qwen3.8-27B обычно отказывается, а также для диалога и обработки изображений. В измерении автора она отказала в 15 из 100 запросов на вредоносные темы при KL-дивергенции 0,0634 относительно Swift; эти результаты зависят от протокола и не заменяют общие бенчмарки. Доступны также варианты GGUF и NVFP4, упомянутые автором. Лицензия указана как other; перед использованием следует проверить условия лицензии репозитория. Автор возлагает ответственность за применение модели на пользователя. Общие бенчмарки, поведение отказов в режиме рассуждений и сохранение эффективности коротких рассуждений не оценивались.

Synatra-7B-Instruct-v0.2 — корейская инструктивная языковая модель, созданная StableFluffy на основе mistralai/Mistral-7B-Instruct-v0.1. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; веса доступны в формате PyTorch и рассчитаны на использование через Transformers. Модель предназначена для диалогов и выполнения инструкций на корейском языке. В карточке приведены результаты на Ko-ARC, Ko-HellaSwag, Ko-MMLU, Ko-TruthfulQA и Ko-CommonGen V2: средний показатель v0.2 выше, чем у указанной версии v0.1, но автор отмечает слабый результат на Ko-CommonGen V2. Для запросов используется формат Mistral Instruct с маркерами [INST] и [/INST]. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение. Автор также перечисляет очистку данных и улучшение языкового понимания и здравого смысла среди планов доработки; качество на других языках и в сценариях, не отражённых в карточке, не подтверждено.

liamvbetts/t5-small-finetuned-2024-03-16 — дообученная модель семейства T5, созданная на основе liamvbetts/t5-small-finetuned-2024-03-15. Это компактная модель генерации текста по текстовому входу с 38,5 млн параметров и контекстом до 512 токенов. README сообщает метрики оценки: loss 1,9081, ROUGE-1 32,2806, ROUGE-2 18,3465, ROUGE-L 27,9985 и ROUGE-Lsum 28,4829; конкретная задача и набор данных обучения не описаны, поэтому назначение модели определить нельзя. Веса опубликованы в формате safetensors. Условия лицензии в доступных данных не приведены.

Kendamarron разработал Tokara-0.5B-v0.1 — плотную авторегрессионную языковую модель семейства Qwen2 с примерно 464 млн параметров. По карточке, это продолжительно предобученная версия Qwen/Qwen1.5-0.5B на 5 млрд токенов японских и английских данных; в метаданных среди обучающих корпусов указаны японская и английская Википедии, OSCAR и японская Cosmopedia. Модель предназначена для генерации текста и диалогового использования, поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors по лицензии other. Автор сообщает, что модель стабильнее генерирует японский текст, чем базовая версия, хотя результаты на трёх приведённых японских бенчмарках неоднозначны: часть оценок ниже, часть немного выше. Это компактная модель для экспериментов и приложений, которым нужна генерация японского или английского текста; результаты бенчмарков не подтверждают общего превосходства над базовой моделью.

TURKLM 443M SFT — компактная авторская языковая модель на 443 млн параметров, разработанная Arda Aydogdu для генерации текста на турецком языке. Она обучена с нуля: сначала на турецких текстах, затем дополнительно настроена на наборах инструкций. Модель использует плотную архитектуру LLaMA с 24 слоями, RoPE, RMSNorm, SwiGLU и grouped-query attention; контекст — 2048 токенов. Для токенизации применяется собственный BPE-токенизатор с размером словаря 64 000. Модель подходит для турецких диалогов, ответов на вопросы и прототипов текстовых ассистентов. Репозиторий содержит веса safetensors и квантизованный GGUF Q4_K_M, а также заявлены варианты INT4 и INT8, позволяющие запускать модель на устройствах с ограниченной памятью и на CPU. По описанию разработчика, модель усвоила базовые морфологические закономерности и формат вопросов и ответов, но из-за небольшого размера и объёма предобучающих данных может галлюцинировать в сложных фактологических темах. Для ответов, требующих высокой точности, рекомендуется использовать её вместе с RAG. Лицензия — Apache 2.0.