在端侧AI火热之时，还存在一个重要的隐患尚未解决——数据安全与隐私保护。
进入信息时代和智能时代为人们的生活工作带来不少便利，但也存在不少副作用，隐私和信息泄露便是其中之一。据报道，近期一场规模巨大的物联网（IoT）安全漏洞事件曝光了27亿条包含敏感用户数据的信息，其中包括Wi-Fi网络名称、密码、IP地址和设备标识符，这存在非常大的数据风险，有可能被攻击者利用。据Palo Alto Networks的威胁报告，之所以会发生这样的事故，在于98%的物联网设备数据未加密，57%的设备高度脆弱。
随着迈入AI时代，原本尚未解决的数据安全和隐私保护问题正变得更加复杂，这其中涉及第三方大模型，手机终端厂商、大模型提供者和开发者等不同商业主体间的生态模式及责任边界尚不清晰。尽管端侧AI的概念当中，数据可以在本地设备处理，经过加密之后上传至云端，无需担忧个人隐私泄露的问题，较云端大模型更加安全。但实际上，端侧AI并没有办法从根本上解决问题。
“从云端到端侧，每一个环节都可能成为数据泄露的薄弱环节。云端虽然拥有强大的数据处理能力，但一旦遭受攻击，海量用户数据将面临巨大风险。相比之下，端侧AI在数据安全方面具有天然优势，但仍需警惕硬件层面的潜在漏洞。”炬芯科技方面向芯师爷坦言。
“主要归因于第三方App介入时的隐私保护边界模糊、无障碍权限的滥用、数据在端侧云端和第三方AI之间流动复杂等因素。”芯海科技方面也向芯师爷指出，端侧AI之所以无法再根本上杜绝信息泄露的情况。芯海科技方面称，以计算机系统为例。计算机系统由硬件单元、底层固件、操作系统、应用软件组成，其系统启动流程的每个环节，包括“硬件上电启动、底层固件执行、硬件配置完成、操作系统加载、应用软件执行”等流程，每一步都可能成为被替换攻击的目标，进而导致本地机密数据泄露。
对如何解决端云协同中的交互数据安全问题，阿里研究院人工智能治理中心主任傅宏宇曾撰文给出自己的思考，或可作为端侧AI背景下对数据安全保护的一个参考。
傅宏宇认为，首先需要建设云侧、端侧等执行环境的安全保障能力，采取协议承诺、技术管控等方式让用户对自身数据可控可管可审计，为用户进一步使用模型、与模型进行数据交互奠定信任基础。一是要保障用户数据处理环境的安全一致性。无论是端侧还是云侧，用户-模型交互处理的整体环境应当在数据安全保障级别上需要和用户私域等同，用户数据在各类执行环境中都受到同等的安全保护，例如对企业用户需高度关注企业商业秘密在传输、存储过程中的加密和防攻击，应用处理过程中的权限限制，对个人用户则要保障对其个人数据的控制权和安全性，保证对数据处理的知情同意。二是要保障用户对自身数据的高度可控性。严格遵守用户指令，以用户授权为前提，强化权限保护、数据可控性、可审计性，责任可追踪。通过授权和密钥控制，保障用户数据的私密性，对用户数据管控和滥用防控，让用户了解并控制各执行环境中的数据使用情况，避免超权限、超范围、超目的的数据访问，做到“操作可审计”。在发现事故后快速定位问题源头，区分是用户不当使用、系统漏洞还是外部攻击等行为所导致的安全风险，做到“责任可追溯”。
另外，对于个人信息和隐私保护，监管层也非常关切，出台了不少法律法规，可以在一定程度上约束部分企业在这方面的小心思。例如，《网络安全法》《数据安全法》《个人信息保护法》明确规定了处理个人信息的要求，包括知情同意规则，最小必要原则等；今年1月1日生效的《网络数据安全管理条例》进一步对涉及自动化工具、生成式人工智能等新兴技术的数据处理活动作出了特殊规定。
值得一提的是，除了大模型、APP、手机厂商等企业在设备、应用运行和数据处理过程中可能引发的数据安全问题外，一些非法的黑客攻击同样需要各方多加留意。去年12月，欧盟网络安全局（ENISA）发布《2024年联盟网络安全状况报告》，报告针对2023年7月至2024年6月期间欧盟的网络威胁进行了评估，结果显示，欧盟面临严重的网络威胁，遭受的网络攻击明显升级，攻击的种类、数量及后果均创新高。报告认为，未来网络攻击可能对重要实体造成严重破坏，尤其是拒绝服务（DDoS）和勒索软件攻击，勒索软件仍然是欧盟面临的最主要的威胁形式。
针对上述情况，2022 年以来欧盟委员会先后推出《网络安全条例》草案、第二版《网络与信息安全指令》、欧盟网络弹性法案（CRA）、欧盟无线电设备指令（RED）授权法案等，旨在促进成员国网络安全机制间的互联互通，支撑欧洲更多行业部门的基础设施应对快速变化和大规模的网络攻击安全威胁。
也就是说，芯片等硬件企业无法缺席这场对数据安全的保卫战。
“数据安全是一场没有硝烟的战争，需要时刻保持警惕，不断创新。”炬芯科技方面向芯师爷表示，炬芯科技致力于通过前沿的芯片安全技术，如芯片安全信任根技术、高级加密标准（AES）等，为数据安全筑起铜墙铁壁。同时，积极拥抱PSA（Platform Security Architecture）认证体系，以国际认可的安全标准，不断提升产品的安全性能。
芯海科技也称，目前，“公司在数据安全保护方面采取的措施涵盖了数据加密、访问控制、安全审计、硬件架构设计和故障恢复机制等多个方面，为端侧AI的数据安全提供了有力的保障。”据了解，芯海科技在2024年推出的 CSCE2102 芯片（简称：E2102）便在固件安全方面做出了显著的创新提升。