[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-QwenLM--Qwen-Audio":3,"tool-QwenLM--Qwen-Audio":64},[4,17,25,39,48,56],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":16},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",138956,2,"2026-04-05T11:33:21",[13,14,15],"开发框架","Agent","语言模型","ready",{"id":18,"name":19,"github_repo":20,"description_zh":21,"stars":22,"difficulty_score":10,"last_commit_at":23,"category_tags":24,"status":16},3704,"NextChat","ChatGPTNextWeb\u002FNextChat","NextChat 是一款轻量且极速的 AI 助手，旨在为用户提供流畅、跨平台的大模型交互体验。它完美解决了用户在多设备间切换时难以保持对话连续性，以及面对众多 AI 模型不知如何统一管理的痛点。无论是日常办公、学习辅助还是创意激发，NextChat 都能让用户随时随地通过网页、iOS、Android、Windows、MacOS 或 Linux 端无缝接入智能服务。\n\n这款工具非常适合普通用户、学生、职场人士以及需要私有化部署的企业团队使用。对于开发者而言，它也提供了便捷的自托管方案，支持一键部署到 Vercel 或 Zeabur 等平台。\n\nNextChat 的核心亮点在于其广泛的模型兼容性，原生支持 Claude、DeepSeek、GPT-4 及 Gemini Pro 等主流大模型，让用户在一个界面即可自由切换不同 AI 能力。此外，它还率先支持 MCP（Model Context Protocol）协议，增强了上下文处理能力。针对企业用户，NextChat 提供专业版解决方案，具备品牌定制、细粒度权限控制、内部知识库整合及安全审计等功能，满足公司对数据隐私和个性化管理的高标准要求。",87618,"2026-04-05T07:20:52",[13,15],{"id":26,"name":27,"github_repo":28,"description_zh":29,"stars":30,"difficulty_score":10,"last_commit_at":31,"category_tags":32,"status":16},2268,"ML-For-Beginners","microsoft\u002FML-For-Beginners","ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程，旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周，包含 26 节精炼课程和 52 道配套测验，内容涵盖从基础概念到实际应用的完整流程，有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。\n\n无论是希望转型的开发者、需要补充算法背景的研究人员，还是对人工智能充满好奇的普通爱好者，都能从中受益。课程不仅提供了清晰的理论讲解，还强调动手实践，让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持，通过自动化机制提供了包括简体中文在内的 50 多种语言版本，极大地降低了全球不同背景用户的学习门槛。此外，项目采用开源协作模式，社区活跃且内容持续更新，确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路，ML-For-Beginners 将是理想的起点。",84991,"2026-04-05T10:45:23",[33,34,35,36,14,37,15,13,38],"图像","数据工具","视频","插件","其他","音频",{"id":40,"name":41,"github_repo":42,"description_zh":43,"stars":44,"difficulty_score":45,"last_commit_at":46,"category_tags":47,"status":16},3128,"ragflow","infiniflow\u002Fragflow","RAGFlow 是一款领先的开源检索增强生成（RAG）引擎，旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体（Agent）能力相结合，不仅支持从各类文档中高效提取知识，还能让模型基于这些知识进行逻辑推理和任务执行。\n\n在大模型应用中，幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构（如表格、图表及混合排版），显著提升了信息检索的准确度，从而有效减少模型“胡编乱造”的现象，确保回答既有据可依又具备时效性。其内置的智能体机制更进一步，使系统不仅能回答问题，还能自主规划步骤解决复杂问题。\n\n这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统，还是致力于探索大模型在垂直领域落地的创新者，都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口，既降低了非算法背景用户的上手门槛，也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目，它正成为连接通用大模型与行业专有知识之间的重要桥梁。",77062,3,"2026-04-04T04:44:48",[14,33,13,15,37],{"id":49,"name":50,"github_repo":51,"description_zh":52,"stars":53,"difficulty_score":45,"last_commit_at":54,"category_tags":55,"status":16},519,"PaddleOCR","PaddlePaddle\u002FPaddleOCR","PaddleOCR 是一款基于百度飞桨框架开发的高性能开源光学字符识别工具包。它的核心能力是将图片、PDF 等文档中的文字提取出来，转换成计算机可读取的结构化数据，让机器真正“看懂”图文内容。\n\n面对海量纸质或电子文档，PaddleOCR 解决了人工录入效率低、数字化成本高的问题。尤其在人工智能领域，它扮演着连接图像与大型语言模型（LLM）的桥梁角色，能将视觉信息直接转化为文本输入，助力智能问答、文档分析等应用场景落地。\n\nPaddleOCR 适合开发者、算法研究人员以及有文档自动化需求的普通用户。其技术优势十分明显：不仅支持全球 100 多种语言的识别，还能在 Windows、Linux、macOS 等多个系统上运行，并灵活适配 CPU、GPU、NPU 等各类硬件。作为一个轻量级且社区活跃的开源项目，PaddleOCR 既能满足快速集成的需求，也能支撑前沿的视觉语言研究，是处理文字识别任务的理想选择。",74913,"2026-04-05T10:44:17",[15,33,13,37],{"id":57,"name":58,"github_repo":59,"description_zh":60,"stars":61,"difficulty_score":45,"last_commit_at":62,"category_tags":63,"status":16},2181,"OpenHands","OpenHands\u002FOpenHands","OpenHands 是一个专注于 AI 驱动开发的开源平台，旨在让智能体（Agent）像人类开发者一样理解、编写和调试代码。它解决了传统编程中重复性劳动多、环境配置复杂以及人机协作效率低等痛点，通过自动化流程显著提升开发速度。\n\n无论是希望提升编码效率的软件工程师、探索智能体技术的研究人员，还是需要快速原型验证的技术团队，都能从中受益。OpenHands 提供了灵活多样的使用方式：既可以通过命令行（CLI）或本地图形界面在个人电脑上轻松上手，体验类似 Devin 的流畅交互；也能利用其强大的 Python SDK 自定义智能体逻辑，甚至在云端大规模部署上千个智能体并行工作。\n\n其核心技术亮点在于模块化的软件智能体 SDK，这不仅构成了平台的引擎，还支持高度可组合的开发模式。此外，OpenHands 在 SWE-bench 基准测试中取得了 77.6% 的优异成绩，证明了其解决真实世界软件工程问题的能力。平台还具备完善的企业级功能，支持与 Slack、Jira 等工具集成，并提供细粒度的权限管理，适合从个人开发者到大型企业的各类用户场景。",70612,"2026-04-05T11:12:22",[15,14,13,36],{"id":65,"github_repo":66,"name":67,"description_en":68,"description_zh":69,"ai_summary_zh":69,"readme_en":70,"readme_zh":71,"quickstart_zh":72,"use_case_zh":73,"hero_image_url":74,"owner_login":75,"owner_name":76,"owner_avatar_url":77,"owner_bio":78,"owner_company":79,"owner_location":79,"owner_email":80,"owner_twitter":81,"owner_website":82,"owner_url":83,"languages":84,"stars":89,"forks":90,"last_commit_at":91,"license":92,"difficulty_score":45,"env_os":93,"env_gpu":93,"env_ram":93,"env_deps":94,"category_tags":97,"github_topics":79,"view_count":98,"oss_zip_url":79,"oss_zip_packed_at":79,"status":16,"created_at":99,"updated_at":100,"faqs":101,"releases":137},759,"QwenLM\u002FQwen-Audio","Qwen-Audio","The official repo of Qwen-Audio (通义千问-Audio) chat & pretrained large audio language model proposed by Alibaba Cloud.","Qwen-Audio 是由阿里云推出的一款通用型大音频语言模型。它能够深入理解各类音频内容，不仅支持高精度的语音识别，还能完成声学场景分类、音频描述生成以及情感识别等多种任务。过去，处理这些不同的音频需求往往需要依赖多个专用模型，而 Qwen-Audio 通过统一的架构实现了多模态能力的融合，让机器能像人一样“听”懂并交流。\n\n在性能表现上，Qwen-Audio 展现了卓越的实力，在语音识别、音频分类等多个权威评测榜单上均达到了领先水平。它特别擅长处理复杂的对话场景，允许用户以自然语言与音频内容进行交互，极大地降低了音频处理的门槛。\n\nQwen-Audio 非常适合人工智能开发者构建智能语音应用，也适用于科研人员探索音频领域的最新进展。对于希望快速集成先进音频功能的应用团队，或是关注多模态大模型技术的研究者，都能从中获得帮助。目前已在 ModelScope 和 Hugging Face 等平台提供预训练模型及在线演示，方便大家随时上手体验。","\u003Cp align=\"left\">\n        \u003Ca href=\"README_CN.md\">中文\u003C\u002Fa> &nbsp｜ &nbsp English&nbsp&nbsp\n\u003C\u002Fp>\n\u003Cbr>\u003Cbr>\n\n\n\u003Cp align=\"center\">\n    \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FQwenLM_Qwen-Audio_readme_f9faaf5ce386.jpg\" width=\"400\"\u002F>\n\u003Cp>\n\u003Cbr>\n\n\u003Cp align=\"center\">\n        Qwen-Audio \u003Ca href=\"https:\u002F\u002Fwww.modelscope.cn\u002Fmodels\u002Fqwen\u002FQWen-Audio\u002Fsummary\">🤖 \u003Ca> | \u003Ca href=\"https:\u002F\u002Fhuggingface.co\u002FQwen\u002FQwen-Audio\">🤗\u003C\u002Fa>&nbsp ｜ Qwen-Audio-Chat \u003Ca href=\"https:\u002F\u002Fwww.modelscope.cn\u002Fmodels\u002Fqwen\u002FQWen-Audio-Chat\u002Fsummary\">🤖 \u003Ca>| \u003Ca href=\"https:\u002F\u002Fhuggingface.co\u002FQwen\u002FQwen-Audio-Chat\">🤗\u003C\u002Fa>&nbsp | &nbsp&nbsp Demo\u003Ca href=\"https:\u002F\u002Fmodelscope.cn\u002Fstudios\u002Fqwen\u002FQwen-Audio-Chat-Demo\u002Fsummary\"> 🤖\u003C\u002Fa> | \u003Ca href=\"https:\u002F\u002Fhuggingface.co\u002Fspaces\u002FQwen\u002FQwen-Audio\">🤗\u003C\u002Fa>&nbsp\n\u003Cbr>\n&nbsp&nbsp\u003Ca href=\"https:\u002F\u002Fqwen-audio.github.io\u002FQwen-Audio\u002F\">Homepage\u003C\u002Fa>&nbsp ｜ &nbsp&nbsp\u003Ca href=\"http:\u002F\u002Farxiv.org\u002Fabs\u002F2311.07919\">Paper\u003C\u002Fa>&nbsp&nbsp | &nbsp&nbsp&nbsp\u003Ca href=\"https:\u002F\u002Fgithub.com\u002FQwenLM\u002FQwen\u002Fblob\u002Fmain\u002Fassets\u002Fwechat.png\">WeChat\u003C\u002Fa>&nbsp&nbsp | &nbsp&nbsp\u003Ca href=\"https:\u002F\u002Fdiscord.gg\u002FCV4E9rpNSD\">Discord\u003C\u002Fa>&nbsp&nbsp\u003C\u002Fa>\n\u003C\u002Fp>\n\u003Cbr>\u003Cbr>\n\n[![PWC](https:\u002F\u002Fimg.shields.io\u002Fendpoint.svg?url=https:\u002F\u002Fpaperswithcode.com\u002Fbadge\u002Fqwen-audio-advancing-universal-audio\u002Fspeech-recognition-on-aishell-1)](https:\u002F\u002Fpaperswithcode.com\u002Fsota\u002Fspeech-recognition-on-aishell-1?p=qwen-audio-advancing-universal-audio)\n[![PWC](https:\u002F\u002Fimg.shields.io\u002Fendpoint.svg?url=https:\u002F\u002Fpaperswithcode.com\u002Fbadge\u002Fqwen-audio-advancing-universal-audio\u002Fspeech-recognition-on-aishell-2-test-android-1)](https:\u002F\u002Fpaperswithcode.com\u002Fsota\u002Fspeech-recognition-on-aishell-2-test-android-1?p=qwen-audio-advancing-universal-audio)\n[![PWC](https:\u002F\u002Fimg.shields.io\u002Fendpoint.svg?url=https:\u002F\u002Fpaperswithcode.com\u002Fbadge\u002Fqwen-audio-advancing-universal-audio\u002Fspeech-recognition-on-aishell-2-test-ios)](https:\u002F\u002Fpaperswithcode.com\u002Fsota\u002Fspeech-recognition-on-aishell-2-test-ios?p=qwen-audio-advancing-universal-audio)\n[![PWC](https:\u002F\u002Fimg.shields.io\u002Fendpoint.svg?url=https:\u002F\u002Fpaperswithcode.com\u002Fbadge\u002Fqwen-audio-advancing-universal-audio\u002Fspeech-recognition-on-aishell-2-test-mic-1)](https:\u002F\u002Fpaperswithcode.com\u002Fsota\u002Fspeech-recognition-on-aishell-2-test-mic-1?p=qwen-audio-advancing-universal-audio)\n[![PWC](https:\u002F\u002Fimg.shields.io\u002Fendpoint.svg?url=https:\u002F\u002Fpaperswithcode.com\u002Fbadge\u002Fqwen-audio-advancing-universal-audio\u002Facoustic-scene-classification-on-cochlscene)](https:\u002F\u002Fpaperswithcode.com\u002Fsota\u002Facoustic-scene-classification-on-cochlscene?p=qwen-audio-advancing-universal-audio)\n[![PWC](https:\u002F\u002Fimg.shields.io\u002Fendpoint.svg?url=https:\u002F\u002Fpaperswithcode.com\u002Fbadge\u002Fqwen-audio-advancing-universal-audio\u002Facoustic-scene-classification-on-tut-acoustic)](https:\u002F\u002Fpaperswithcode.com\u002Fsota\u002Facoustic-scene-classification-on-tut-acoustic?p=qwen-audio-advancing-universal-audio) \u003Cbr>\n[![PWC](https:\u002F\u002Fimg.shields.io\u002Fendpoint.svg?url=https:\u002F\u002Fpaperswithcode.com\u002Fbadge\u002Fqwen-audio-advancing-universal-audio\u002Faudio-classification-on-vocalsound)](https:\u002F\u002Fpaperswithcode.com\u002Fsota\u002Faudio-classification-on-vocalsound?p=qwen-audio-advancing-universal-audio) \u003Cbr>\n[![PWC](https:\u002F\u002Fimg.shields.io\u002Fendpoint.svg?url=https:\u002F\u002Fpaperswithcode.com\u002Fbadge\u002Fqwen-audio-advancing-universal-audio\u002Faudio-captioning-on-clotho)](https:\u002F\u002Fpaperswithcode.com\u002Fsota\u002Faudio-captioning-on-clotho?p=qwen-audio-advancing-universal-audio) \u003Cbr>\n[![PWC](https:\u002F\u002Fimg.shields.io\u002Fendpoint.svg?url=https:\u002F\u002Fpaperswithcode.com\u002Fbadge\u002Fqwen-audio-advancing-universal-audio\u002Fspeech-recognition-on-librispeech-test-clean)](https:\u002F\u002Fpaperswithcode.com\u002Fsota\u002Fspeech-recognition-on-librispeech-test-clean?p=qwen-audio-advancing-universal-audio)\n[![PWC](https:\u002F\u002Fimg.shields.io\u002Fendpoint.svg?url=https:\u002F\u002Fpaperswithcode.com\u002Fbadge\u002Fqwen-audio-advancing-universal-audio\u002Femotion-recognition-in-conversation-on-meld)](https:\u002F\u002Fpaperswithcode.com\u002Fsota\u002Femotion-recognition-in-conversation-on-meld?p=qwen-audio-advancing-universal-audio)\n[![PWC](https:\u002F\u002Fimg.shields.io\u002Fendpoint.svg?url=https:\u002F\u002Fpaperswithcode.com\u002Fbadge\u002Fqwen-audio-advancing-universal-audio\u002Fspeech-recognition-on-librispeech-test-other)](https:\u002F\u002Fpaperswithcode.com\u002Fsota\u002Fspeech-recognition-on-librispeech-test-other?p=qwen-audio-advancing-universal-audio)\n\n**Qwen-Audio** (Qwen Large Audio Language Model) is the multimodal version of the large model series, Qwen (abbr. Tongyi Qianwen), proposed by Alibaba Cloud. Qwen-Audio accepts diverse audio (human speech, natural sound, music and song) and text as inputs, outputs text. The contribution of Qwen-Audio include:\n\n- **Fundamental audio models**: Qwen-Audio is a fundamental multi-task audio-language model that supports various tasks, languages, and audio types, serving as a universal audio understanding model. Building upon Qwen-Audio, we develop Qwen-Audio-Chat through instruction fine-tuning, enabling multi-turn dialogues and supporting diverse audio-oriented scenarios.\n- **Multi-task learning framework for all types of audios**: To scale up audio-language pre-training, we address the challenge of variation in textual labels associated with different datasets by proposing a multi-task training framework, enabling knowledge sharing and avoiding one-to-many interference. Our model incorporates more than 30 tasks and extensive experiments show the model achieves strong performance.\n- **Strong Performance**: Experimental results show that Qwen-Audio achieves impressive performance across diverse benchmark tasks without requiring any task-specific fine-tuning, surpassing its counterparts. Specifically, Qwen-Audio achieves state-of-the-art results on the test set of Aishell1, cochlscene, ClothoAQA, and VocalSound.\n- **Flexible multi-run chat from audio and text input**: Qwen-Audio supports multiple-audio analysis, sound understanding and reasoning, music appreciation, and tool usage.\n\n\u003Cbr>\n\u003Cp align=\"center\">\n    \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FQwenLM_Qwen-Audio_readme_478039a48e1f.png\" width=\"800\"\u002F>\n\u003Cp>\n\u003Cbr>\n\n\nWe release two models of the Qwen-Audio series soon:\n\n- Qwen-Audio: The pre-trained multi-task audio understanding model uses Qwen-7B as the initialization of the LLM, and [Whisper-large-v2](https:\u002F\u002Fgithub.com\u002Fopenai\u002Fwhisper) as the initialization of the audio encoder.\n- Qwen-Audio-Chat: A multimodal LLM-based AI assistant, which is trained with alignment techniques. Qwen-Audio-Chat supports more flexible interaction, such as multiple audio inputs, multi-round question answering, and creative capabilities.\n\u003Cbr>\n\n## News and Updates\n* 2023.11.30 🔥 We have released the checkpoints of both **Qwen-Audio** and **Qwen-Audio-Chat** on ModelScope and Hugging Face.\n* 2023.11.15 🎉 We released a [paper](http:\u002F\u002Farxiv.org\u002Fabs\u002F2311.07919) for details about Qwen-Audio and Qwen-Audio-Chat model, including training details and model performance.\n\n\u003Cbr>\n\n## Evaluation\nWe evaluated the Qwen-Audio's abilities on 12 standard benchmarks as follows:\n\u003Cp align=\"center\">\n    \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FQwenLM_Qwen-Audio_readme_cf2b0bee01aa.png\" width=\"800\"\u002F>\n\u003Cp>\n\n\nThe below is the overal performance：\n\u003Cp align=\"center\">\n    \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FQwenLM_Qwen-Audio_readme_dca9fc443bad.png\" width=\"800\"\u002F>\n\u003Cp>\n\n\nThe details of evaluation are as follows:\n### Automatic Speech Recognition\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n    \u003Cth rowspan=\"2\">Dataset\u003C\u002Fth>\n    \u003Cth rowspan=\"2\">Model\u003C\u002Fth>\n    \u003Cth colspan=\"4\">Results (WER)\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Cth>dev-clean\u003C\u002Fth>\n    \u003Cth>dev-othoer\u003C\u002Fth>\n    \u003Cth>test-clean\u003C\u002Fth>\n    \u003Cth>test-other\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003C\u002Fthead>\n\n\u003Ctbody align=\"center\">\n\u003Ctr>\n    \u003Ctd rowspan=\"5\">Librispeech\u003C\u002Ftd>\n    \u003Ctd>SpeechT5\u003C\u002Ftd>\n    \u003Ctd>2.1\u003C\u002Ftd>\n    \u003Ctd>5.5\u003C\u002Ftd>\n    \u003Ctd>2.4\u003C\u002Ftd>\n    \u003Ctd>5.8\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>SpeechNet\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>30.7\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>SLM-FT\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>2.6\u003C\u002Ftd>\n    \u003Ctd>5.0\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>SALMONN\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>2.1\u003C\u002Ftd>\n    \u003Ctd>4.9\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Qwen-Audio\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>1.8\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>4.0\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>2.0\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>4.2\u003C\u002Fstrong>\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n    \u003Cth rowspan=\"2\">Dataset\u003C\u002Fth>\n    \u003Cth rowspan=\"2\">Model\u003C\u002Fth>\n    \u003Cth colspan=\"2\">Results (WER)\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Cth>dev\u003C\u002Fth>\n    \u003Cth>test\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003C\u002Fthead>\n\n\u003Ctbody align=\"center\">\n\u003Ctr>\n    \u003Ctd rowspan=\"4\">Aishell1\u003C\u002Ftd>\n    \u003Ctd>MMSpeech-base\u003C\u002Ftd>\n    \u003Ctd>2.0\u003C\u002Ftd>\n    \u003Ctd>2.1\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>MMSpeech-large\u003C\u002Ftd>\n    \u003Ctd>1.6\u003C\u002Ftd>\n    \u003Ctd>1.9\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Paraformer-large\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>2.0\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Qwen-Audio\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>1.2 (SOTA)\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>1.3 (SOTA)\u003C\u002Fstrong>\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n    \u003Cth rowspan=\"2\">Dataset\u003C\u002Fth>\n    \u003Cth rowspan=\"2\">Model\u003C\u002Fth>\n    \u003Cth colspan=\"3\">Results (WER)\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Cth>Mic\u003C\u002Fth>\n    \u003Cth>iOS\u003C\u002Fth>\n    \u003Cth>Android\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003C\u002Fthead>\n\n\u003Ctbody align=\"center\">\n\u003Ctr>\n    \u003Ctd rowspan=\"3\">Aishell2\u003C\u002Ftd>\n    \u003Ctd>MMSpeech-base\u003C\u002Ftd>\n    \u003Ctd>4.5\u003C\u002Ftd>\n    \u003Ctd>3.9\u003C\u002Ftd>\n    \u003Ctd>4.0\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Paraformer-large\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>2.9\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Qwen-Audio\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>3.3\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>3.1\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>3.3\u003C\u002Fstrong>\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n### Soeech-to-text Translation\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n    \u003Cth rowspan=\"2\">Dataset\u003C\u002Fth>\n    \u003Cth rowspan=\"2\">Model\u003C\u002Fth>\n    \u003Cth colspan=\"7\">Results （BLUE)\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Cth>en-de\u003C\u002Fth>\n    \u003Cth>de-en\u003C\u002Fth>\n    \u003Cth>en-zh\u003C\u002Fth>\n    \u003Cth>zh-en\u003C\u002Fth>\n    \u003Cth>es-en\u003C\u002Fth>\n    \u003Cth>fr-en\u003C\u002Fth>\n    \u003Cth>it-en\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003C\u002Fthead>\n\n\u003Ctbody align=\"center\">\n\u003Ctr>\n    \u003Ctd rowspan=\"4\">CoVoST2\u003C\u002Ftd>\n    \u003Ctd>SALMMON\u003C\u002Ftd>\n    \u003Ctd>18.6\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>33.1\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>SpeechLLaMA\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>27.1\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>12.3\u003C\u002Ftd>\n    \u003Ctd>27.9\u003C\u002Ftd>\n    \u003Ctd>25.2\u003C\u002Ftd>\n    \u003Ctd>25.9\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>BLSP\u003C\u002Ftd>\n    \u003Ctd>14.1\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Qwen-Audio\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>25.1\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>33.9\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>41.5\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>15.7\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>39.7\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>38.5\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>36.0\u003C\u002Fstrong>\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n### Automatic Audio Caption\n\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n    \u003Cth rowspan=\"2\">Dataset\u003C\u002Fth>\n    \u003Cth rowspan=\"2\">Model\u003C\u002Fth>\n    \u003Cth colspan=\"3\">Results\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Cth>CIDER\u003C\u002Fth>\n    \u003Cth>SPICE\u003C\u002Fth>\n    \u003Cth>SPIDEr\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003C\u002Fthead>\n\n\u003Ctbody align=\"center\">\n\u003Ctr>\n    \u003Ctd rowspan=\"2\">Clotho\u003C\u002Ftd>\n    \u003Ctd>Pengi\u003C\u002Ftd>\n    \u003Ctd>0.416\u003C\u002Ftd>\n    \u003Ctd>0.126\u003C\u002Ftd>\n    \u003Ctd>0.271\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Qwen-Audio\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>0.441\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>0.136\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>0.288\u003C\u002Fstrong>\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n\n### Speech Recognition with Word-level Timestamp\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n    \u003Cth rowspan=\"1\">Dataset\u003C\u002Fth>\n    \u003Cth rowspan=\"1\">Model\u003C\u002Fth>\n    \u003Cth colspan=\"1\">AAC (ms)\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003C\u002Fthead>\n\n\u003Ctbody align=\"center\">\n\u003Ctr>\n    \u003Ctd rowspan=\"3\">Industrial Data\u003C\u002Ftd>\n    \u003Ctd>Force-aligner\u003C\u002Ftd>\n    \u003Ctd>60.3\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Paraformer-large-TP\u003C\u002Ftd>\n    \u003Ctd>65.3\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Qwen-Audio\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>51.5 (SOTA)\u003C\u002Fstrong>\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n\n### Automatic Scene Classification\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n    \u003Cth rowspan=\"1\">Dataset\u003C\u002Fth>\n    \u003Cth rowspan=\"1\">Model\u003C\u002Fth>\n    \u003Cth colspan=\"1\">ACC\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003C\u002Fthead>\n\n\u003Ctbody align=\"center\">\n\u003Ctr>\n    \u003Ctd rowspan=\"2\">Cochlscene\u003C\u002Ftd>\n    \u003Ctd>Cochlscene\u003C\u002Ftd>\n    \u003Ctd>0.669\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Qwen-Audio\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>0.795 (SOTA)\u003C\u002Fstrong>\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd rowspan=\"2\">TUT2017\u003C\u002Ftd>\n    \u003Ctd>Pengi\u003C\u002Ftd>\n    \u003Ctd>0.353\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Qwen-Audio\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>0.649\u003C\u002Fstrong>\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n\n### Speech Emotion Recognition\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n    \u003Cth rowspan=\"1\">Dataset\u003C\u002Fth>\n    \u003Cth rowspan=\"1\">Model\u003C\u002Fth>\n    \u003Cth colspan=\"1\">ACC\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003C\u002Fthead>\n\n\u003Ctbody align=\"center\">\n\u003Ctr>\n    \u003Ctd rowspan=\"2\">Meld\u003C\u002Ftd>\n    \u003Ctd>WavLM-large\u003C\u002Ftd>\n    \u003Ctd>0.542\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Qwen-Audio\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>0.557\u003C\u002Fstrong>\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n\n### Audio Question & Answer\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n    \u003Cth rowspan=\"2\">Dataset\u003C\u002Fth>\n    \u003Cth rowspan=\"2\">Model\u003C\u002Fth>\n    \u003Cth colspan=\"2\">Results\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Cth>ACC\u003C\u002Fth>\n    \u003Cth>ACC (binary)\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003C\u002Fthead>\n\n\u003Ctbody align=\"center\">\n\u003Ctr>\n    \u003Ctd rowspan=\"3\">ClothoAQA\u003C\u002Ftd>\n    \u003Ctd>ClothoAQA\u003C\u002Ftd>\n    \u003Ctd>0.542\u003C\u002Ftd>\n    \u003Ctd>0.627\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Pengi\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>0.645\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Qwen-Audio\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>0.579\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>0.749\u003C\u002Fstrong>\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n### Vocal Sound Classification\n\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n    \u003Cth rowspan=\"1\">Dataset\u003C\u002Fth>\n    \u003Cth rowspan=\"1\">Model\u003C\u002Fth>\n    \u003Cth colspan=\"1\">ACC\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003C\u002Fthead>\n\n\u003Ctbody align=\"center\">\n\u003Ctr>\n    \u003Ctd rowspan=\"3\">VocalSound\u003C\u002Ftd>\n    \u003Ctd>CLAP\u003C\u002Ftd>\n    \u003Ctd>0.4945\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Pengi\u003C\u002Ftd>\n    \u003Ctd>0.6035\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Qwen-Audio\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>0.9289 (SOTA)\u003C\u002Fstrong>\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n\n### Music Note Analysis\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n    \u003Cth rowspan=\"1\">Dataset\u003C\u002Fth>\n    \u003Cth rowspan=\"1\">Model\u003C\u002Fth>\n    \u003Cth colspan=\"1\">NS. Qualities (MAP)\u003C\u002Fth>\n\u003Cth colspan=\"1\">NS. Instrument (ACC)\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003C\u002Fthead>\n\n\u003Ctbody align=\"center\">\n\u003Ctr>\n    \u003Ctd rowspan=\"2\">NSynth\u003C\u002Ftd>\n    \u003Ctd>Pengi\u003C\u002Ftd>\n    \u003Ctd>0.3860\u003C\u002Ftd>\n    \u003Ctd>0.5007\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Qwen-Audio\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>0.4742\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>0.7882\u003C\u002Fstrong>\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\nWe have provided **all** evaluation scripts to reproduce our results. Please refer to [eval_audio\u002FEVALUATION.md](eval_audio\u002FEVALUATION.md) for details.\n\n### Evaluation of Chat\nTo evaluate the chat abilities of Qwen-Audio-Chat, we provide [TUTORIAL](TUTORIAL.md) and demo for users. \n\n## Requirements\n\n* python 3.8 and above\n* pytorch 1.12 and above, 2.0 and above are recommended\n* CUDA 11.4 and above are recommended (this is for GPU users)\n* FFmpeg\n\u003Cbr>\n\n## Quickstart\n\nBelow, we provide simple examples to show how to use Qwen-Audio and Qwen-Audio-Chat with 🤖 ModelScope and 🤗 Transformers.\n\nBefore running the code, make sure you have setup the environment and installed the required packages. Make sure you meet the above requirements, and then install the dependent libraries.\n\n```bash\npip install -r requirements.txt\n```\n\nNow you can start with ModelScope or Transformers. For more usage, please refer to the [tutorial](TUTORIAL.md). Qwen-Audio models currently perform best with audio clips under 30 seconds.\n\n#### 🤗 Transformers\n\nTo use Qwen-Audio-Chat for the inference, all you need to do is to input a few lines of codes as demonstrated below. However, **please make sure that you are using the latest code.**\n\n```python\nfrom transformers import AutoModelForCausalLM, AutoTokenizer\nfrom transformers.generation import GenerationConfig\nimport torch\ntorch.manual_seed(1234)\n\n# Note: The default behavior now has injection attack prevention off.\ntokenizer = AutoTokenizer.from_pretrained(\"Qwen\u002FQwen-Audio-Chat\", trust_remote_code=True)\n\n# use bf16\n# model = AutoModelForCausalLM.from_pretrained(\"Qwen\u002FQwen-Audio-Chat\", device_map=\"auto\", trust_remote_code=True, bf16=True).eval()\n# use fp16\n# model = AutoModelForCausalLM.from_pretrained(\"Qwen\u002FQwen-Audio-Chat\", device_map=\"auto\", trust_remote_code=True, fp16=True).eval()\n# use cpu only\n# model = AutoModelForCausalLM.from_pretrained(\"Qwen\u002FQwen-Audio-Chat\", device_map=\"cpu\", trust_remote_code=True).eval()\n# use cuda device\nmodel = AutoModelForCausalLM.from_pretrained(\"Qwen\u002FQwen-Audio-Chat\", device_map=\"cuda\", trust_remote_code=True).eval()\n\n# Specify hyperparameters for generation (No need to do this if you are using transformers>4.32.0)\n# model.generation_config = GenerationConfig.from_pretrained(\"Qwen\u002FQwen-Audio-Chat\", trust_remote_code=True)\n\n# 1st dialogue turn\nquery = tokenizer.from_list_format([\n    {'audio': 'assets\u002Faudio\u002F1272-128104-0000.flac'}, # Either a local path or an url\n    {'text': 'what does the person say?'},\n])\nresponse, history = model.chat(tokenizer, query=query, history=None)\nprint(response)\n# The person says: \"mister quilter is the apostle of the middle classes and we are glad to welcome his gospel\".\n\n# 2nd dialogue turn\nresponse, history = model.chat(tokenizer, 'Find the start time and end time of the word \"middle classes\"', history=history)\nprint(response)\n# The word \"middle classes\" starts at \u003C|2.33|> seconds and ends at \u003C|3.26|> seconds.\n```\n\nRunning Qwen-Audio pretrained base model is also simple.\n\n```python\nfrom transformers import AutoModelForCausalLM, AutoTokenizer\nfrom transformers.generation import GenerationConfig\nimport torch\ntorch.manual_seed(1234)\n\ntokenizer = AutoTokenizer.from_pretrained(\"Qwen\u002FQwen-Audio\", trust_remote_code=True)\n\n# use bf16\n# model = AutoModelForCausalLM.from_pretrained(\"Qwen\u002FQwen-Audio\", device_map=\"auto\", trust_remote_code=True, bf16=True).eval()\n# use fp16\n# model = AutoModelForCausalLM.from_pretrained(\"Qwen\u002FQwen-Audio\", device_map=\"auto\", trust_remote_code=True, fp16=True).eval()\n# use cpu only\n# model = AutoModelForCausalLM.from_pretrained(\"Qwen\u002FQwen-Audio\", device_map=\"cpu\", trust_remote_code=True).eval()\n# use cuda device\nmodel = AutoModelForCausalLM.from_pretrained(\"Qwen\u002FQwen-Audio\", device_map=\"cuda\", trust_remote_code=True).eval()\n\n# Specify hyperparameters for generation (No need to do this if you are using transformers>4.32.0)\n# model.generation_config = GenerationConfig.from_pretrained(\"Qwen\u002FQwen-Audio\", trust_remote_code=True)\naudio_url = \"assets\u002Faudio\u002F1272-128104-0000.flac\"\nsp_prompt = \"\u003C|startoftranscription|>\u003C|en|>\u003C|transcribe|>\u003C|en|>\u003C|notimestamps|>\u003C|wo_itn|>\"\nquery = f\"\u003Caudio>{audio_url}\u003C\u002Faudio>{sp_prompt}\"\naudio_info = tokenizer.process_audio(query)\ninputs = tokenizer(query, return_tensors='pt', audio_info=audio_info)\ninputs = inputs.to(model.device)\npred = model.generate(**inputs, audio_info=audio_info)\nresponse = tokenizer.decode(pred.cpu()[0], skip_special_tokens=False,audio_info=audio_info)\nprint(response)\n# \u003Caudio>assets\u002Faudio\u002F1272-128104-0000.flac\u003C\u002Faudio>\u003C|startoftranscription|>\u003C|en|>\u003C|transcribe|>\u003C|en|>\u003C|notimestamps|>\u003C|wo_itn|>mister quilting is the apostle of the middle classes and we are glad to welcome his gospel\u003C|endoftext|>\n```\n\n\nIn the event of a network issue while attempting to download model checkpoints and codes from Hugging Face, an alternative approach is to initially fetch the checkpoint from ModelScope and then load it from the local directory as outlined below:\n\n```python\nfrom modelscope import snapshot_download\nfrom transformers import AutoModelForCausalLM, AutoTokenizer\n\n# Downloading model checkpoint to a local dir model_dir\nmodel_id = 'qwen\u002FQwen-Audio-Chat'\nrevision = 'master'\nmodel_dir = snapshot_download(model_id, revision=revision)\n\n# Loading local checkpoints\n# trust_remote_code is still set as True since we still load codes from local dir instead of transformers\ntokenizer = AutoTokenizer.from_pretrained(model_dir, trust_remote_code=True)\nmodel = AutoModelForCausalLM.from_pretrained(\n    model_dir,\n    device_map=\"cuda\",\n    trust_remote_code=True\n).eval()\n```\n\n#### 🤖 ModelScope\n\nModelScope is an opensource platform for Model-as-a-Service (MaaS), which provides flexible and cost-effective model service to AI developers. Similarly, you can run the models with ModelScope as shown below:\n\n```python\nfrom modelscope import (\n    snapshot_download, AutoModelForCausalLM, AutoTokenizer, GenerationConfig\n)\nimport torch\nmodel_id = 'qwen\u002FQwen-Audio-Chat'\nrevision = 'master'\n\nmodel_dir = snapshot_download(model_id, revision=revision)\ntorch.manual_seed(1234)\n\ntokenizer = AutoTokenizer.from_pretrained(model_dir, trust_remote_code=True)\nif not hasattr(tokenizer, 'model_dir'):\n    tokenizer.model_dir = model_dir\n# use bf16\n# model = AutoModelForCausalLM.from_pretrained(model_dir, device_map=\"auto\", trust_remote_code=True, bf16=True).eval()\n# use fp16\n# model = AutoModelForCausalLM.from_pretrained(model_dir, device_map=\"auto\", trust_remote_code=True, fp16=True).eval()\n# use CPU\n# model = AutoModelForCausalLM.from_pretrained(model_dir, device_map=\"cpu\", trust_remote_code=True).eval()\n# use gpu\nmodel = AutoModelForCausalLM.from_pretrained(model_dir, device_map=\"auto\", trust_remote_code=True).eval()\n\n# 1st dialogue turn\nquery = tokenizer.from_list_format([\n    {'audio': 'assets\u002Faudio\u002F1272-128104-0000.flac'}, # Either a local path or an url\n    {'text': 'what does the person say?'},\n])\nresponse, history = model.chat(tokenizer, query=query, history=None)\nprint(response)\n# The person says: \"mister quilter is the apostle of the middle classes and we are glad to welcome his gospel\".\n\n# 2st dialogue turn\nresponse, history = model.chat(tokenizer, 'Find the start time and end time of the word \"middle classes\"', history=history)\nprint(response)\n# The word \"middle classes\" starts at \u003C|2.33|> seconds and ends at \u003C|3.26|> seconds.\n```\n\n## Demo\n\n### Web UI\n\nWe provide code for users to build a web UI demo. Before you start, make sure you install the following packages:\n\n```\npip install -r requirements_web_demo.txt\n```\n\nThen run the command below and click on the generated link:\n\n```\npython web_demo_audio.py\n```\n\u003Cbr>\n\n## FAQ\n\nIf you meet problems, please refer to [FAQ](FAQ.md) and the issues first to search a solution before you launch a new issue.\n\u003Cbr>\n\n## We Are Hiring\n\nIf you are interested in joining us as full-time or intern, please contact us at qwen_audio@list.alibaba-inc.com.\n\u003Cbr>\n\n## License Agreement\n\nResearchers and developers are free to use the codes and model weights of both Qwen-Audio and Qwen-Audio-Chat. We also allow their commercial use. Check our license at [LICENSE](LICENSE) for more details.\n\u003Cbr>\n\n## Citation\n\nIf you find our paper and code useful in your research, please consider giving a star :star: and citation :pencil: :)\n\n```BibTeX\n@article{Qwen-Audio,\n  title={Qwen-Audio: Advancing Universal Audio Understanding via Unified Large-Scale Audio-Language Models},\n  author={Chu, Yunfei and Xu, Jin and Zhou, Xiaohuan and Yang, Qian and Zhang, Shiliang and Yan, Zhijie  and Zhou, Chang and Zhou, Jingren},\n  journal={arXiv preprint arXiv:2311.07919},\n  year={2023}\n}\n```\n\u003Cbr>\n\n## Contact Us\n\nIf you are interested to leave a message to either our research team or product team, feel free to send an email to qianwen_opensource@alibabacloud.com.\n\n","\u003Cp align=\"left\">\n        \u003Ca href=\"README_CN.md\">中文\u003C\u002Fa> &nbsp｜ &nbsp 英文&nbsp&nbsp\n\u003C\u002Fp>\n\u003Cbr>\u003Cbr>\n\n\n\u003Cp align=\"center\">\n    \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FQwenLM_Qwen-Audio_readme_f9faaf5ce386.jpg\" width=\"400\"\u002F>\n\u003Cp>\n\u003Cbr>\n\n\u003Cp align=\"center\">\n        Qwen-Audio \u003Ca href=\"https:\u002F\u002Fwww.modelscope.cn\u002Fmodels\u002Fqwen\u002FQWen-Audio\u002Fsummary\">🤖 \u003Ca> | \u003Ca href=\"https:\u002F\u002Fhuggingface.co\u002FQwen\u002FQwen-Audio\">🤗\u003C\u002Fa>&nbsp ｜ Qwen-Audio-Chat \u003Ca href=\"https:\u002F\u002Fwww.modelscope.cn\u002Fmodels\u002Fqwen\u002FQWen-Audio-Chat\u002Fsummary\">🤖 \u003Ca>| \u003Ca href=\"https:\u002F\u002Fhuggingface.co\u002FQwen\u002FQwen-Audio-Chat\">🤗\u003C\u002Fa>&nbsp | &nbsp&nbsp 演示\u003Ca href=\"https:\u002F\u002Fmodelscope.cn\u002Fstudios\u002Fqwen\u002FQwen-Audio-Chat-Demo\u002Fsummary\"> 🤖\u003C\u002Fa> | \u003Ca href=\"https:\u002F\u002Fhuggingface.co\u002Fspaces\u002FQwen\u002FQwen-Audio\">🤗\u003C\u002Fa>&nbsp\n\u003Cbr>\n&nbsp&nbsp\u003Ca href=\"https:\u002F\u002Fqwen-audio.github.io\u002FQwen-Audio\u002F\">主页\u003C\u002Fa>&nbsp ｜ &nbsp&nbsp\u003Ca href=\"http:\u002F\u002Farxiv.org\u002Fabs\u002F2311.07919\">论文\u003C\u002Fa>&nbsp&nbsp | &nbsp&nbsp&nbsp\u003Ca href=\"https:\u002F\u002Fgithub.com\u002FQwenLM\u002FQwen\u002Fblob\u002Fmain\u002Fassets\u002Fwechat.png\">微信\u003C\u002Fa>&nbsp&nbsp | &nbsp&nbsp\u003Ca href=\"https:\u002F\u002Fdiscord.gg\u002FCV4E9rpNSD\">Discord\u003C\u002Fa>&nbsp&nbsp\u003C\u002Fa>\n\u003C\u002Fp>\n\u003Cbr>\u003Cbr>\n\n[![PWC](https:\u002F\u002Fimg.shields.io\u002Fendpoint.svg?url=https:\u002F\u002Fpaperswithcode.com\u002Fbadge\u002Fqwen-audio-advancing-universal-audio\u002Fspeech-recognition-on-aishell-1)](https:\u002F\u002Fpaperswithcode.com\u002Fsota\u002Fspeech-recognition-on-aishell-1?p=qwen-audio-advancing-universal-audio)\n[![PWC](https:\u002F\u002Fimg.shields.io\u002Fendpoint.svg?url=https:\u002F\u002Fpaperswithcode.com\u002Fbadge\u002Fqwen-audio-advancing-universal-audio\u002Fspeech-recognition-on-aishell-2-test-android-1)](https:\u002F\u002Fpaperswithcode.com\u002Fsota\u002Fspeech-recognition-on-aishell-2-test-android-1?p=qwen-audio-advancing-universal-audio)\n[![PWC](https:\u002F\u002Fimg.shields.io\u002Fendpoint.svg?url=https:\u002F\u002Fpaperswithcode.com\u002Fbadge\u002Fqwen-audio-advancing-universal-audio\u002Fspeech-recognition-on-aishell-2-test-ios)](https:\u002F\u002Fpaperswithcode.com\u002Fsota\u002Fspeech-recognition-on-aishell-2-test-ios?p=qwen-audio-advancing-universal-audio)\n[![PWC](https:\u002F\u002Fimg.shields.io\u002Fendpoint.svg?url=https:\u002F\u002Fpaperswithcode.com\u002Fbadge\u002Fqwen-audio-advancing-universal-audio\u002Fspeech-recognition-on-aishell-2-test-mic-1)](https:\u002F\u002Fpaperswithcode.com\u002Fsota\u002Fspeech-recognition-on-aishell-2-test-mic-1?p=qwen-audio-advancing-universal-audio)\n[![PWC](https:\u002F\u002Fimg.shields.io\u002Fendpoint.svg?url=https:\u002F\u002Fpaperswithcode.com\u002Fbadge\u002Fqwen-audio-advancing-universal-audio\u002Facoustic-scene-classification-on-cochlscene)](https:\u002F\u002Fpaperswithcode.com\u002Fsota\u002Facoustic-scene-classification-on-cochlscene?p=qwen-audio-advancing-universal-audio)\n[![PWC](https:\u002F\u002Fimg.shields.io\u002Fendpoint.svg?url=https:\u002F\u002Fpaperswithcode.com\u002Fbadge\u002Fqwen-audio-advancing-universal-audio\u002Facoustic-scene-classification-on-tut-acoustic)](https:\u002F\u002Fpaperswithcode.com\u002Fsota\u002Facoustic-scene-classification-on-tut-acoustic?p=qwen-audio-advancing-universal-audio) \u003Cbr>\n[![PWC](https:\u002F\u002Fimg.shields.io\u002Fendpoint.svg?url=https:\u002F\u002Fpaperswithcode.com\u002Fbadge\u002Fqwen-audio-advancing-universal-audio\u002Faudio-classification-on-vocalsound)](https:\u002F\u002Fpaperswithcode.com\u002Fsota\u002Faudio-classification-on-vocalsound?p=qwen-audio-advancing-universal-audio) \u003Cbr>\n[![PWC](https:\u002F\u002Fimg.shields.io\u002Fendpoint.svg?url=https:\u002F\u002Fpaperswithcode.com\u002Fbadge\u002Fqwen-audio-advancing-universal-audio\u002Faudio-captioning-on-clotho)](https:\u002F\u002Fpaperswithcode.com\u002Fsota\u002Faudio-captioning-on-clotho?p=qwen-audio-advancing-universal-audio) \u003Cbr>\n[![PWC](https:\u002F\u002Fimg.shields.io\u002Fendpoint.svg?url=https:\u002F\u002Fpaperswithcode.com\u002Fbadge\u002Fqwen-audio-advancing-universal-audio\u002Fspeech-recognition-on-librispeech-test-clean)](https:\u002F\u002Fpaperswithcode.com\u002Fsota\u002Fspeech-recognition-on-librispeech-test-clean?p=qwen-audio-advancing-universal-audio)\n[![PWC](https:\u002F\u002Fimg.shields.io\u002Fendpoint.svg?url=https:\u002F\u002Fpaperswithcode.com\u002Fbadge\u002Fqwen-audio-advancing-universal-audio\u002Femotion-recognition-in-conversation-on-meld)](https:\u002F\u002Fpaperswithcode.com\u002Fsota\u002Femotion-recognition-in-conversation-on-meld?p=qwen-audio-advancing-universal-audio)\n[![PWC](https:\u002F\u002Fimg.shields.io\u002Fendpoint.svg?url=https:\u002F\u002Fpaperswithcode.com\u002Fbadge\u002Fqwen-audio-advancing-universal-audio\u002Fspeech-recognition-on-librispeech-test-other)](https:\u002F\u002Fpaperswithcode.com\u002Fsota\u002Fspeech-recognition-on-librispeech-test-other?p=qwen-audio-advancing-universal-audio)\n\n**Qwen-Audio**（Qwen 大型音频语言模型）是阿里云提出的大模型系列 Qwen（简称通义千问）的多模态版本。Qwen-Audio 接受多种音频（人声、自然声音、音乐和歌曲）和文本作为输入，并输出文本。Qwen-Audio 的贡献包括：\n\n- **基础音频模型**：Qwen-Audio 是一个基础的多任务音频 - 语言模型，支持各种任务、语言和音频类型，充当通用音频理解模型。基于 Qwen-Audio，我们通过指令微调开发了 Qwen-Audio-Chat，实现了多轮对话并支持多样化的音频导向场景。\n- **所有类型音频的多任务学习框架**：为了扩展音频 - 语言预训练，我们通过提出一个多任务训练框架来解决不同数据集关联的文本标签差异带来的挑战，实现知识共享并避免一对多干扰。我们的模型包含超过 30 个任务，大量实验表明该模型取得了优异的性能。\n- **强大的性能**：实验结果表明，Qwen-Audio 在无需任何特定任务微调的情况下，在多样化的基准任务上取得了令人印象深刻的性能，超越了其同类模型。具体而言，Qwen-Audio 在 Aishell1、cochlscene、ClothoAQA 和 VocalSound 的测试集上达到了最先进的结果。\n- **灵活的音频和文本输入多轮对话**：Qwen-Audio 支持多音频分析、声音理解和推理、音乐欣赏以及工具使用。\n\n\u003Cbr>\n\u003Cp align=\"center\">\n    \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FQwenLM_Qwen-Audio_readme_478039a48e1f.png\" width=\"800\"\u002F>\n\u003Cp>\n\u003Cbr>\n\n\n我们即将推出 Qwen-Audio 系列的两个模型：\n\n- Qwen-Audio：预训练多任务音频理解模型，使用 Qwen-7B 作为 LLM（大型语言模型）的初始化，并使用 [Whisper-large-v2](https:\u002F\u002Fgithub.com\u002Fopenai\u002Fwhisper) 作为音频编码器的初始化。\n- Qwen-Audio-Chat：基于多模态 LLM 的 AI 助手，采用对齐技术进行训练。Qwen-Audio-Chat 支持更灵活的交互，例如多音频输入、多轮问答和创意能力。\n\u003Cbr>\n\n## 新闻与更新\n* 2023.11.30 🔥 我们已在 ModelScope 和 Hugging Face 上发布了 **Qwen-Audio** 和 **Qwen-Audio-Chat** 的检查点。\n* 2023.11.15 🎉 我们发布了一篇 [论文](http:\u002F\u002Farxiv.org\u002Fabs\u002F2311.07919)，详细介绍了 Qwen-Audio 和 Qwen-Audio-Chat 模型，包括训练细节和模型性能。\n\n\u003Cbr>\n\n## 评估\n我们在以下 12 个标准基准上评估了 Qwen-Audio 的能力：\n\u003Cp align=\"center\">\n    \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FQwenLM_Qwen-Audio_readme_cf2b0bee01aa.png\" width=\"800\"\u002F>\n\u003Cp>\n\n\n以下是整体性能：\n\u003Cp align=\"center\">\n    \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FQwenLM_Qwen-Audio_readme_dca9fc443bad.png\" width=\"800\"\u002F>\n\u003Cp>\n\n\n评估详情如下：\n\n### 自动语音识别\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n    \u003Cth rowspan=\"2\">数据集\u003C\u002Fth>\n    \u003Cth rowspan=\"2\">模型\u003C\u002Fth>\n    \u003Cth colspan=\"4\">结果 (WER，词错误率)\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Cth>dev-clean\u003C\u002Fth>\n    \u003Cth>dev-other\u003C\u002Fth>\n    \u003Cth>test-clean\u003C\u002Fth>\n    \u003Cth>test-other\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003C\u002Fthead>\n\n\u003Ctbody align=\"center\">\n\u003Ctr>\n    \u003Ctd rowspan=\"5\">Librispeech\u003C\u002Ftd>\n    \u003Ctd>SpeechT5\u003C\u002Ftd>\n    \u003Ctd>2.1\u003C\u002Ftd>\n    \u003Ctd>5.5\u003C\u002Ftd>\n    \u003Ctd>2.4\u003C\u002Ftd>\n    \u003Ctd>5.8\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>SpeechNet\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>30.7\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>SLM-FT\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>2.6\u003C\u002Ftd>\n    \u003Ctd>5.0\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>SALMONN\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>2.1\u003C\u002Ftd>\n    \u003Ctd>4.9\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Qwen-Audio\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>1.8\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>4.0\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>2.0\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>4.2\u003C\u002Fstrong>\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n    \u003Cth rowspan=\"2\">数据集\u003C\u002Fth>\n    \u003Cth rowspan=\"2\">模型\u003C\u002Fth>\n    \u003Cth colspan=\"2\">结果 (WER，词错误率)\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Cth>dev\u003C\u002Fth>\n    \u003Cth>test\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003C\u002Fthead>\n\n\u003Ctbody align=\"center\">\n\u003Ctr>\n    \u003Ctd rowspan=\"4\">Aishell1\u003C\u002Ftd>\n    \u003Ctd>MMSpeech-base\u003C\u002Ftd>\n    \u003Ctd>2.0\u003C\u002Ftd>\n    \u003Ctd>2.1\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>MMSpeech-large\u003C\u002Ftd>\n    \u003Ctd>1.6\u003C\u002Ftd>\n    \u003Ctd>1.9\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Paraformer-large\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>2.0\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Qwen-Audio\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>1.2 (SOTA，最先进)\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>1.3 (SOTA，最先进)\u003C\u002Fstrong>\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n    \u003Cth rowspan=\"2\">数据集\u003C\u002Fth>\n    \u003Cth rowspan=\"2\">模型\u003C\u002Fth>\n    \u003Cth colspan=\"3\">结果 (WER，词错误率)\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Cth>Mic\u003C\u002Fth>\n    \u003Cth>iOS\u003C\u002Fth>\n    \u003Cth>Android\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003C\u002Fthead>\n\n\u003Ctbody align=\"center\">\n\u003Ctr>\n    \u003Ctd rowspan=\"3\">Aishell2\u003C\u002Ftd>\n    \u003Ctd>MMSpeech-base\u003C\u002Ftd>\n    \u003Ctd>4.5\u003C\u002Ftd>\n    \u003Ctd>3.9\u003C\u002Ftd>\n    \u003Ctd>4.0\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Paraformer-large\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>2.9\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Qwen-Audio\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>3.3\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>3.1\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>3.3\u003C\u002Fstrong>\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n### 语音转文本翻译\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n    \u003Cth rowspan=\"2\">数据集\u003C\u002Fth>\n    \u003Cth rowspan=\"2\">模型\u003C\u002Fth>\n    \u003Cth colspan=\"7\">结果 (BLEU，BLEU 分数)\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Cth>en-de\u003C\u002Fth>\n    \u003Cth>de-en\u003C\u002Fth>\n    \u003Cth>en-zh\u003C\u002Fth>\n    \u003Cth>zh-en\u003C\u002Fth>\n    \u003Cth>es-en\u003C\u002Fth>\n    \u003Cth>fr-en\u003C\u002Fth>\n    \u003Cth>it-en\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003C\u002Fthead>\n\n\u003Ctbody align=\"center\">\n\u003Ctr>\n    \u003Ctd rowspan=\"4\">CoVoST2\u003C\u002Ftd>\n    \u003Ctd>SALMONN\u003C\u002Ftd>\n    \u003Ctd>18.6\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>33.1\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>SpeechLLaMA\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>27.1\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>12.3\u003C\u002Ftd>\n    \u003Ctd>27.9\u003C\u002Ftd>\n    \u003Ctd>25.2\u003C\u002Ftd>\n    \u003Ctd>25.9\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>BLSP\u003C\u002Ftd>\n    \u003Ctd>14.1\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Qwen-Audio\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>25.1\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>33.9\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>41.5\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>15.7\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>39.7\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>38.5\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>36.0\u003C\u002Fstrong>\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n### 自动音频描述\n\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n    \u003Cth rowspan=\"2\">数据集\u003C\u002Fth>\n    \u003Cth rowspan=\"2\">模型\u003C\u002Fth>\n    \u003Cth colspan=\"3\">结果\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Cth>CIDER (CIDEr 评分)\u003C\u002Fth>\n    \u003Cth>SPICE (SPICE 评分)\u003C\u002Fth>\n    \u003Cth>SPIDEr (SPIDEr 评分)\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003C\u002Fthead>\n\n\u003Ctbody align=\"center\">\n\u003Ctr>\n    \u003Ctd rowspan=\"2\">Clotho\u003C\u002Ftd>\n    \u003Ctd>Pengi\u003C\u002Ftd>\n    \u003Ctd>0.416\u003C\u002Ftd>\n    \u003Ctd>0.126\u003C\u002Ftd>\n    \u003Ctd>0.271\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Qwen-Audio\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>0.441\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>0.136\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>0.288\u003C\u002Fstrong>\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n\n### 带字级时间戳的语音识别\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n    \u003Cth rowspan=\"1\">数据集\u003C\u002Fth>\n    \u003Cth rowspan=\"1\">模型\u003C\u002Fth>\n    \u003Cth colspan=\"1\">AAC (对齐误差，毫秒)\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003C\u002Fthead>\n\n\u003Ctbody align=\"center\">\n\u003Ctr>\n    \u003Ctd rowspan=\"3\">Industrial Data\u003C\u002Ftd>\n    \u003Ctd>Force-aligner\u003C\u002Ftd>\n    \u003Ctd>60.3\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Paraformer-large-TP\u003C\u002Ftd>\n    \u003Ctd>65.3\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Qwen-Audio\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>51.5 (SOTA，最先进)\u003C\u002Fstrong>\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n\n### 自动场景分类\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n    \u003Cth rowspan=\"1\">数据集\u003C\u002Fth>\n    \u003Cth rowspan=\"1\">模型\u003C\u002Fth>\n    \u003Cth colspan=\"1\">ACC (准确率)\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003C\u002Fthead>\n\n\u003Ctbody align=\"center\">\n\u003Ctr>\n    \u003Ctd rowspan=\"2\">Cochlscene\u003C\u002Ftd>\n    \u003Ctd>Cochlscene\u003C\u002Ftd>\n    \u003Ctd>0.669\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Qwen-Audio\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>0.795 (SOTA，最先进)\u003C\u002Fstrong>\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd rowspan=\"2\">TUT2017\u003C\u002Ftd>\n    \u003Ctd>Pengi\u003C\u002Ftd>\n    \u003Ctd>0.353\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Qwen-Audio\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>0.649\u003C\u002Fstrong>\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n\n### 语音情感识别\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n    \u003Cth rowspan=\"1\">数据集\u003C\u002Fth>\n    \u003Cth rowspan=\"1\">模型\u003C\u002Fth>\n    \u003Cth colspan=\"1\">ACC (准确率)\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003C\u002Fthead>\n\n\u003Ctbody align=\"center\">\n\u003Ctr>\n    \u003Ctd rowspan=\"2\">Meld\u003C\u002Ftd>\n    \u003Ctd>WavLM-large\u003C\u002Ftd>\n    \u003Ctd>0.542\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Qwen-Audio\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>0.557\u003C\u002Fstrong>\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n\n### 音频问答\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n    \u003Cth rowspan=\"2\">数据集\u003C\u002Fth>\n    \u003Cth rowspan=\"2\">模型\u003C\u002Fth>\n    \u003Cth colspan=\"2\">结果\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Cth>ACC (准确率)\u003C\u002Fth>\n    \u003Cth>ACC (二分类)\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003C\u002Fthead>\n\n\u003Ctbody align=\"center\">\n\u003Ctr>\n    \u003Ctd rowspan=\"3\">ClothoAQA\u003C\u002Ftd>\n    \u003Ctd>ClothoAQA\u003C\u002Ftd>\n    \u003Ctd>0.542\u003C\u002Ftd>\n    \u003Ctd>0.627\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Pengi\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>0.645\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Qwen-Audio\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>0.579\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>0.749\u003C\u002Fstrong>\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n### 人声声音分类\n\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n    \u003Cth rowspan=\"1\">数据集\u003C\u002Fth>\n    \u003Cth rowspan=\"1\">模型\u003C\u002Fth>\n    \u003Cth colspan=\"1\">ACC (准确率)\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003C\u002Fthead>\n\n\u003Ctbody align=\"center\">\n\u003Ctr>\n    \u003Ctd rowspan=\"3\">VocalSound\u003C\u002Ftd>\n    \u003Ctd>CLAP\u003C\u002Ftd>\n    \u003Ctd>0.4945\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Pengi\u003C\u002Ftd>\n    \u003Ctd>0.6035\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Qwen-Audio\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>0.9289 (SOTA，最先进)\u003C\u002Fstrong>\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n\n### 音乐音符分析\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n    \u003Cth rowspan=\"1\">数据集\u003C\u002Fth>\n    \u003Cth rowspan=\"1\">模型\u003C\u002Fth>\n    \u003Cth colspan=\"1\">NSynth 属性 (MAP，平均精度均值)\u003C\u002Fth>\n\u003Cth colspan=\"1\">NSynth 乐器 (ACC，准确率)\u003C\u002Fth>\n  \u003C\u002Ftr>\n\u003C\u002Fthead>\n\n\u003Ctbody align=\"center\">\n\u003Ctr>\n    \u003Ctd rowspan=\"2\">NSynth\u003C\u002Ftd>\n    \u003Ctd>Pengi\u003C\u002Ftd>\n    \u003Ctd>0.3860\u003C\u002Ftd>\n    \u003Ctd>0.5007\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003Ctr>\n    \u003Ctd>Qwen-Audio\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>0.4742\u003C\u002Fstrong>\u003C\u002Ftd>\n    \u003Ctd>\u003Cstrong>0.7882\u003C\u002Fstrong>\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n我们提供了**所有**评估脚本以复现我们的结果。详情请参阅 [eval_audio\u002FEVALUATION.md](eval_audio\u002FEVALUATION.md)。\n\n### Chat 能力评估\n为了评估 Qwen-Audio-Chat 的聊天能力，我们为用户提供了 [TUTORIAL](TUTORIAL.md) 和演示。 \n\n## 依赖要求\n\n* Python 3.8 及以上\n* PyTorch 1.12 及以上，推荐 2.0 及以上\n* CUDA 11.4 及以上（适用于 GPU 用户）\n* FFmpeg\n\u003Cbr>\n\n## 快速开始\n\n下面，我们提供简单的示例来展示如何结合 🤖 ModelScope (魔搭) 和 🤗 Transformers (Hugging Face Transformers) 使用 Qwen-Audio 和 Qwen-Audio-Chat。\n\n在运行代码之前，请确保已设置好环境并安装了所需的包。请确保满足上述要求，然后安装依赖库。\n\n```bash\npip install -r requirements.txt\n```\n\n现在您可以从 ModelScope 或 Transformers 开始。更多用法，请参阅 [教程](TUTORIAL.md)。Qwen-Audio 模型目前在 30 秒以内的音频片段上表现最佳。\n\n#### 🤗 Transformers\n\n要使用 Qwen-Audio-Chat 进行推理，您只需输入几行代码，如下所示。但是，**请确保您使用的是最新代码。**\n\n```python\nfrom transformers import AutoModelForCausalLM, AutoTokenizer\nfrom transformers.generation import GenerationConfig\nimport torch\ntorch.manual_seed(1234)\n\n# Note: The default behavior now has injection attack prevention off.\ntokenizer = AutoTokenizer.from_pretrained(\"Qwen\u002FQwen-Audio-Chat\", trust_remote_code=True)\n\n# use bf16\n# model = AutoModelForCausalLM.from_pretrained(\"Qwen\u002FQwen-Audio-Chat\", device_map=\"auto\", trust_remote_code=True, bf16=True).eval()\n# use fp16\n# model = AutoModelForCausalLM.from_pretrained(\"Qwen\u002FQwen-Audio-Chat\", device_map=\"auto\", trust_remote_code=True, fp16=True).eval()\n# use cpu only\n# model = AutoModelForCausalLM.from_pretrained(\"Qwen\u002FQwen-Audio-Chat\", device_map=\"cpu\", trust_remote_code=True).eval()\n# use cuda device\nmodel = AutoModelForCausalLM.from_pretrained(\"Qwen\u002FQwen-Audio-Chat\", device_map=\"cuda\", trust_remote_code=True).eval()\n\n# Specify hyperparameters for generation (No need to do this if you are using transformers>4.32.0)\n# model.generation_config = GenerationConfig.from_pretrained(\"Qwen\u002FQwen-Audio-Chat\", trust_remote_code=True)\n\n# 1st dialogue turn\nquery = tokenizer.from_list_format([\n    {'audio': 'assets\u002Faudio\u002F1272-128104-0000.flac'}, # Either a local path or an url\n    {'text': 'what does the person say?'},\n])\nresponse, history = model.chat(tokenizer, query=query, history=None)\nprint(response)\n# The person says: \"mister quilter is the apostle of the middle classes and we are glad to welcome his gospel\".\n\n# 2nd dialogue turn\nresponse, history = model.chat(tokenizer, 'Find the start time and end time of the word \"middle classes\"', history=history)\nprint(response)\n# The word \"middle classes\" starts at \u003C|2.33|> seconds and ends at \u003C|3.26|> seconds.\n```\n\n运行 Qwen-Audio 预训练基础模型也很简单。\n\n```python\nfrom transformers import AutoModelForCausalLM, AutoTokenizer\nfrom transformers.generation import GenerationConfig\nimport torch\ntorch.manual_seed(1234)\n\ntokenizer = AutoTokenizer.from_pretrained(\"Qwen\u002FQwen-Audio\", trust_remote_code=True)\n\n# use bf16\n# model = AutoModelForCausalLM.from_pretrained(\"Qwen\u002FQwen-Audio\", device_map=\"auto\", trust_remote_code=True, bf16=True).eval()\n# use fp16\n# model = AutoModelForCausalLM.from_pretrained(\"Qwen\u002FQwen-Audio\", device_map=\"auto\", trust_remote_code=True, fp16=True).eval()\n# use cpu only\n# model = AutoModelForCausalLM.from_pretrained(\"Qwen\u002FQwen-Audio\", device_map=\"cpu\", trust_remote_code=True).eval()\n# use cuda device\nmodel = AutoModelForCausalLM.from_pretrained(\"Qwen\u002FQwen-Audio\", device_map=\"cuda\", trust_remote_code=True).eval()\n\n# Specify hyperparameters for generation (No need to do this if you are using transformers>4.32.0)\n# model.generation_config = GenerationConfig.from_pretrained(\"Qwen\u002FQwen-Audio\", trust_remote_code=True)\naudio_url = \"assets\u002Faudio\u002F1272-128104-0000.flac\"\nsp_prompt = \"\u003C|startoftranscription|>\u003C|en|>\u003C|transcribe|>\u003C|en|>\u003C|notimestamps|>\u003C|wo_itn|>\"\nquery = f\"\u003Caudio>{audio_url}\u003C\u002Faudio>{sp_prompt}\"\naudio_info = tokenizer.process_audio(query)\ninputs = tokenizer(query, return_tensors='pt', audio_info=audio_info)\ninputs = inputs.to(model.device)\npred = model.generate(**inputs, audio_info=audio_info)\nresponse = tokenizer.decode(pred.cpu()[0], skip_special_tokens=False,audio_info=audio_info)\nprint(response)\n# \u003Caudio>assets\u002Faudio\u002F1272-128104-0000.flac\u003C\u002Faudio>\u003C|startoftranscription|>\u003C|en|>\u003C|transcribe|>\u003C|en|>\u003C|notimestamps|>\u003C|wo_itn|>mister quilting is the apostle of the middle classes and we are glad to welcome his gospel\u003C| therset r|>\n```\n\n如果在尝试从 Hugging Face 下载模型检查点 (checkpoint) 和代码时遇到网络问题，另一种方法是先从 ModelScope 获取检查点，然后按照下文从本地目录加载：\n\n```python\nfrom modelscope import snapshot_download\nfrom transformers import AutoModelForCausalLM, AutoTokenizer\n\n# Downloading model checkpoint to a local dir model_dir\nmodel_id = 'qwen\u002FQwen-Audio-Chat'\nrevision = 'master'\nmodel_dir = snapshot_download(model_id, revision=revision)\n\n# Loading local checkpoints\n# trust_remote_code is still set as True since we still load codes from local dir instead of transformers\ntokenizer = AutoTokenizer.from_pretrained(model_dir, trust_remote_code=True)\nmodel = AutoModelForCausalLM.from_pretrained(\n    model_dir,\n    device_map=\"cuda\",\n    trust_remote_code=True\n).eval()\n```\n\n#### 🤖 ModelScope\n\nModelScope 是一个面向模型即服务 (MaaS) 的开源平台，它为 AI 开发者提供灵活且具成本效益的模型服务。同样，您可以像下面这样使用 ModelScope 运行模型：\n\n```python\nfrom modelscope import (\n    snapshot_download, AutoModelForCausalLM, AutoTokenizer, GenerationConfig\n)\nimport torch\nmodel_id = 'qwen\u002FQwen-Audio-Chat'\nrevision = 'master'\n\nmodel_dir = snapshot_download(model_id, revision=revision)\ntorch.manual_seed(1234)\n\ntokenizer = AutoTokenizer.from_pretrained(model_dir, trust_remote_code=True)\nif not hasattr(tokenizer, 'model_dir'):\n    tokenizer.model_dir = model_dir\n# use bf16\n# model = AutoModelForCausalLM.from_pretrained(model_dir, device_map=\"auto\", trust_remote_code=True, bf16=True).eval()\n# use fp16\n# model = AutoModelForCausalLM.from_pretrained(model_dir, device_map=\"auto\", trust_remote_code=True, fp16=True).eval()\n# use CPU\n# model = AutoModelForCausalLM.from_pretrained(model_dir, device_map=\"cpu\", trust_remote_code=True).eval()\n# use gpu\nmodel = AutoModelForCausalLM.from_pretrained(model_dir, device_map=\"auto\", trust_remote_code=True).eval()\n\n# 1st dialogue turn\nquery = tokenizer.from_list_format([\n    {'audio': 'assets\u002Faudio\u002F1272-128104-0000.flac'}, # Either a local path or an url\n    {'text': 'what does the person say?'},\n])\nresponse, history = model.chat(tokenizer, query=query, history=None)\nprint(response)\n# The person says: \"mister quilter is the apostle of the middle classes and we are glad to welcome his gospel\".\n\n# 2st dialogue turn\nresponse, history = model.chat(tokenizer, 'Find the start time and end time of the word \"middle classes\"', history=history)\nprint(response)\n# The word \"middle classes\" starts at \u003C|2.33|> seconds and ends at \u003C|3.26|> seconds.\n```\n\n## 演示\n\n### Web 用户界面 (Web UI)\n\n我们为用户提供构建 Web 用户界面 (Web UI) 演示的代码。开始之前，请确保安装以下包：\n\n```\npip install -r requirements_web_demo.txt\n```\n\n然后运行以下命令并点击生成的链接：\n\n```\npython web_demo_audio.py\n```\n\u003Cbr>\n\n## 常见问题解答 (FAQ)\n\n如果您遇到问题，请先参考 [常见问题解答 (FAQ)](FAQ.md) 和现有的 [问题 (Issues)]，在发起新的 [问题 (Issue)] 之前搜索解决方案。\n\u003Cbr>\n\n## 我们正在招聘\n\n如果您有兴趣全职或实习加入我们，请联系 qwen_audio@list.alibaba-inc.com。\n\u003Cbr>\n\n## 许可协议\n\n研究人员和开发者可以自由使用 Qwen-Audio 和 Qwen-Audio-Chat 的代码及模型权重。我们也允许商业使用。更多详情请查看我们的 [许可证 (LICENSE)](LICENSE)。\n\u003Cbr>\n\n## 引用 (Citation)\n\n如果您的研究中发现我们的论文和代码有用，请考虑给予一个星标 (Star) :star: 并进行引用 (Citation) :pencil: :)\n\n```BibTeX\n@article{Qwen-Audio,\n  title={Qwen-Audio: Advancing Universal Audio Understanding via Unified Large-Scale Audio-Language Models},\n  author={Chu, Yunfei and Xu, Jin and Zhou, Xiaohuan and Yang, Qian and Zhang, Shiliang and Yan, Zhijie  and Zhou, Chang and Zhou, Jingren},\n  journal={arXiv preprint arXiv:2311.07919},\n  year={2023}\n}\n```\n\u003Cbr>\n\n## 联系我们\n\n如果您想给我们的研究团队或产品团队留言，欢迎发送邮件至 qianwen_opensource@alibabacloud.com。","# Qwen-Audio 快速上手指南\n\n**Qwen-Audio**（通义千问大音频语言模型）是阿里云推出的多模态大模型系列，支持语音识别、音频分类、场景理解、情感识别等多种任务。它接受多样化的音频（人声、自然声音、音乐等）和文本作为输入，输出文本结果。本指南将帮助您快速在本地部署和使用该模型。\n\n## 1. 环境准备\n\n建议配置以下基础环境以运行 Qwen-Audio：\n\n- **操作系统**: Linux \u002F macOS \u002F Windows\n- **Python 版本**: >= 3.8\n- **深度学习框架**: PyTorch >= 1.10\n- **硬件要求**: 推荐使用 NVIDIA GPU（CUDA 环境），显存建议 8GB 以上（具体取决于模型精度和 batch size）。\n\n## 2. 安装步骤\n\n由于 Qwen-Audio 由阿里云发布，国内开发者优先推荐使用 **ModelScope（魔搭社区）** 进行模型下载和推理，以获得更快的访问速度。\n\n### 2.1 安装依赖库\n\n```bash\npip install torch torchvision torchaudio --index-url https:\u002F\u002Fdownload.pytorch.org\u002Fwhl\u002Fcu118\npip install transformers accelerate soundfile librosa\npip install modelscope\n```\n\n> **注意**: 如果您没有 CUDA 环境，请去掉 `--index-url` 参数中的 `cu118` 部分，或根据实际 CUDA 版本调整。\n\n### 2.2 配置模型源（可选但推荐）\n\n为了加速模型加载，可以设置 ModelScope 环境变量指向国内镜像：\n\n```bash\nexport MODELSCOPE_CACHE=.\u002Fmodels_cache\n```\n\n## 3. 基本使用\n\nQwen-Audio 系列包含两个主要模型：\n- **Qwen-Audio**: 预训练的多任务音频理解模型。\n- **Qwen-Audio-Chat**: 经过指令微调的对话助手，支持多轮对话和更灵活的交互。\n\n以下示例展示如何使用 `transformers` 库加载 **Qwen-Audio** 并进行简单的音频处理。\n\n### 3.1 加载模型与处理器\n\n```python\nfrom transformers import AutoProcessor, QwenAudioForConditionalGeneration\n\n# 从 HuggingFace 或 ModelScope 加载模型\n# 国内用户建议使用 ModelScope 路径\nmodel_id = \"Qwen\u002FQwen-Audio\" \n\nprocessor = AutoProcessor.from_pretrained(model_id)\nmodel = QwenAudioForConditionalGeneration.from_pretrained(model_id)\n```\n\n### 3.2 执行推理\n\n```python\nimport torch\nimport soundfile as sf\n\n# 读取音频文件\naudio_input, sr = sf.read(\"your_audio_file.wav\")\n\n# 预处理\ninputs = processor(audio=audio_input, sampling_rate=sr, return_tensors=\"pt\")\n\n# 生成文本\nwith torch.no_grad():\n    generated_ids = model.generate(**inputs, max_new_tokens=256)\n\ngenerated_text = processor.batch_decode(generated_ids, skip_special_tokens=True)[0]\nprint(f\"生成的文本：{generated_text}\")\n```\n\n### 3.3 使用 Qwen-Audio-Chat 进行对话\n\n如需体验对话功能，请将模型 ID 替换为 `Qwen\u002FQwen-Audio-Chat`，并配合相应的对话模板调用。\n\n---\n\n**更多资源**:\n- **ModelScope 主页**: [https:\u002F\u002Fwww.modelscope.cn\u002Fmodels\u002Fqwen\u002FQWen-Audio\u002Fsummary](https:\u002F\u002Fwww.modelscope.cn\u002Fmodels\u002Fqwen\u002FQWen-Audio\u002Fsummary)\n- **HuggingFace 主页**: [https:\u002F\u002Fhuggingface.co\u002FQwen\u002FQwen-Audio](https:\u002F\u002Fhuggingface.co\u002FQwen\u002FQwen-Audio)\n- **技术论文**: [arXiv:2311.07919](http:\u002F\u002Farxiv.org\u002Fabs\u002F2311.07919)","某电商客服团队每周需处理数千通客户投诉录音，旨在通过数据分析优化服务流程。\n\n### 没有 Qwen-Audio 时\n- 人工逐条听音耗时巨大，仅能抽检少量样本，覆盖率不足 5%。\n- 需拼接多个独立 API，先转文字再分析情感，开发链路冗长且维护成本高。\n- 面对电话杂音或方言口音，传统语音识别准确率大幅下降，关键诉求常丢失。\n- 无法理解音频深层含义，只能基于简单关键词统计，难以发现潜在服务漏洞。\n\n### 使用 Qwen-Audio 后\n- Qwen-Audio 一键完成高精度语音转写，并自动标注说话人角色与时间戳。\n- 内置情感分析能力，直接输出对话中的情绪波动曲线，快速定位冲突点。\n- 强大的抗噪与多语言理解能力，有效处理方言及背景噪音干扰，信息提取更完整。\n- 支持自然语言交互查询，管理者可直接问“本月因物流问题导致的愤怒通话有多少”，即时获取洞察。\n\nQwen-Audio 将非结构化音频转化为可深度挖掘的结构化知识，彻底重构了企业音频数据处理流程。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FQwenLM_Qwen-Audio_f9faaf5c.jpg","QwenLM","Qwen","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002FQwenLM_4756c6c9.png","Alibaba Cloud's general-purpose AI models",null,"qianwen_opensource@alibabacloud.com","Alibaba_Qwen","https:\u002F\u002Fqwen.ai\u002F","https:\u002F\u002Fgithub.com\u002FQwenLM",[85],{"name":86,"color":87,"percentage":88},"Python","#3572A5",100,1884,145,"2026-04-03T03:45:51","NOASSERTION","未说明",{"notes":95,"python":93,"dependencies":96},"提供的 README 内容主要包含模型介绍、核心贡献、评测结果（ASR、翻译、分类等）及新闻更新，未包含 Installation、Requirements 或 Environment Setup 章节，因此无法提取具体的操作系统、硬件配置、Python 版本及依赖库信息。",[93],[15,38],4,"2026-03-27T02:49:30.150509","2026-04-06T07:13:46.920283",[102,107,112,117,122,127,132],{"id":103,"question_zh":104,"answer_zh":105,"source_url":106},3250,"Qwen-Audio 对长音频的支持长度是多少？","目前 Qwen-Audio 仅支持 30 秒以内的音频分析。如果音频超过 30 秒，系统会进行截断处理。相关代码逻辑见：https:\u002F\u002Fgithub.com\u002FQwenLM\u002FQwen-Audio\u002Fblob\u002Fmain\u002Faudio.py#L98。","https:\u002F\u002Fgithub.com\u002FQwenLM\u002FQwen-Audio\u002Fissues\u002F10",{"id":108,"question_zh":109,"answer_zh":110,"source_url":111},3251,"如何让 ASR 输出的文本包含标点符号？","在推理时需要在 prompt 中添加特定的指令标记。中文 ASR 推荐 prompt：'\u003C|startoftranscript|>\u003C|zh|>\u003C|transcribe|>\u003C|zh|>\u003C|notimestamps|>\u003C|itn|>'；英文 ASR 推荐 prompt：'\u003C|startoftranscript|>\u003C|en|>\u003C|transcribe|>\u003C|en|>\u003C|notimestamps|>\u003C|itn|>'。","https:\u002F\u002Fgithub.com\u002FQwenLM\u002FQwen-Audio\u002Fissues\u002F6",{"id":113,"question_zh":114,"answer_zh":115,"source_url":116},3252,"如何编写 Prompt 以获取单一任务（如情感识别）的结果？","直接使用任务标签可能无法隔离输出，需使用完整分析指令格式。例如：'\u003Caudio>{}\u003C\u002Faudio>\u003C|startofanalysis|>\u003C|en|>\u003C|keyword|>\u003C|en|>\u003C|notimestamps|>\u003C|emotion_recognition|>'。这样可避免输出无关的转写或元数据信息。","https:\u002F\u002Fgithub.com\u002FQwenLM\u002FQwen-Audio\u002Fissues\u002F32",{"id":118,"question_zh":119,"answer_zh":120,"source_url":121},3253,"第一阶段训练时，LLM 的 embedding 参数是冻结的吗？","是的。第一阶段训练时，通义千问 LLM 的 word embedding 和对应的 output layer 参数是冻结（freeze）的，但是新加入的 audio special token 的 embedding 和对应的 output layer 是不冻结（unfreeze）的。","https:\u002F\u002Fgithub.com\u002FQwenLM\u002FQwen-Audio\u002Fissues\u002F7",{"id":123,"question_zh":124,"answer_zh":125,"source_url":126},3254,"Qwen-Audio 是否支持 TTS（语音合成）和说话人分离？","Qwen-Audio 是一个音频理解模型，目前不支持音频生成功能（如 TTS）。它可作为输入处理模型用于音频生成任务，例如通过理解原始语音配合外部工具来实现语音编辑。","https:\u002F\u002Fgithub.com\u002FQwenLM\u002FQwen-Audio\u002Fissues\u002F4",{"id":128,"question_zh":129,"answer_zh":130,"source_url":131},3255,"EvaluationTokenizer 包在哪里可以找到？","该文件已上传至仓库评估目录。您可以直接访问以下地址获取：https:\u002F\u002Fgithub.com\u002FQwenLM\u002FQwen-Audio\u002Fblob\u002Fmain\u002Feval_audio\u002Fevaluate_tokenizer.py。","https:\u002F\u002Fgithub.com\u002FQwenLM\u002FQwen-Audio\u002Fissues\u002F11",{"id":133,"question_zh":134,"answer_zh":135,"source_url":136},3256,"HuggingFace 和 ModelScope 上的模型文件不一致怎么办？","此前 HuggingFace 的部分文件与 ModelScope 不同步，现已更新。如果遇到模型效果混乱或 MD5 不匹配，建议从 ModelScope git clone 整个仓库后替换本地缓存路径，或等待 HuggingFace 完全同步。","https:\u002F\u002Fgithub.com\u002FQwenLM\u002FQwen-Audio\u002Fissues\u002F12",[]]