11月20日，广和通创新发布AI Dongle解决方案，为个人PC、NAS等设备提供移动AI算力支持。该方案内置高性能、低功耗NPU，使得终端在边缘侧即可进行LLM大模型实时推理任务，为问答助手、以文搜图、会议纪要总结等协同办公等边缘应用提供AI功能。即插即用的AI体验AI Dongle解决方案专注于解决边缘设备在实时推理、数据隐私和能效优化等多方面挑战。通过USB接口供电和数据传输，AI Dongle便携易用、免驱免配置，可实现即插即用，将AI推理能力带到任何具有USB接口的设备。数据隐私保护是AI Dongle的另一大优势，通过端侧处理，敏感数据可以保存在本地，无需上传至云端，特别适用于智能会议、个人助理等涉及隐私的场景。AI Dongle目前提供12TOPS算力，后续，根据差异化应用场景，AI Dongle可提供不同的算力配置，满足从轻量化AI任务到复杂大模型推理的多样化需求。广和通不仅提供端侧算力，还基于自研Fibocom AI Stack，通过OpenAI API接口接入主流模型，应用开发者只需简单配置即可调用端侧模型和算力。从PC到NAS的全面赋能通过插入普通电脑的USB接口，AI Dongle能够为智能会议系统等应用提供强大的AI算力支持，即使在断网环境下也能实现多语种实时翻译和会议纪要生成。面向AI应用开发者，这一解决方案大大降低了开发门槛。开发者无需购买昂贵的专用AI工作站，只需将AI Dongle插入现有电脑，就能获得强大的AI推理算力，用于模型调试和应用开发。创意工作者则利用AI Dongle为图像处理、视频剪辑等软件中的AI加速插件提供额外的计算能力，显著提升工作效率。当AI Dongle与网络附属存储（NAS）设备结合，既能提供集中存储的空间，又具备了专门的AI计算能力。AI Dongle与NAS结合特别适合智能家居和安防场景，可以对存储在本地的监控视频进行实时分析，实现人脸识别、行为检测等功能，同时确保数据隐私。对于中小企业协同办公，NAS+AI Dongle的解决方案能够提供安全且高效的内容管理与处理能力，支持文档分析、智能分类等应用。在科研和边缘计算领域，这一组合提供了数据本地处理与分析的理想平台，既保障了研究数据的安全，又降低了云端传输的负担和延迟。灵活拓展至更多应用目前，广和通提供了两个DEMO应用，包括知识问答、音视频转写总结，后续将推出本地知识库应用。AI Dongle解决方案即将适配腾讯Youtu-Agent等开源智能体框架，助力用户更便捷地利用腾讯优图技术，在AI Dongle上开发出强大的视觉处理或智能交互类应用。“广和通AIS事业部总经理刘子威表示：AI Dongle将加速AI融合各类智能终端，提供便携易用、高拓展性的AI+解决方案。广和通将积极与端侧AI产业链合作，探索更多元化的AI算力拓展方案，助力更多产业智能化升级。 .appendQr_wrap{border:1px solid #E6E6E6;padding:8px;} .appendQr_normal{float:left;} .appendQr_normal img{width:100px;} .appendQr_normal_txt{float:left;font-size:20px;line-height:100px;padding-left:20px;color:#333;} 海量资讯、精准解读，尽在新浪财经APP