苹果公司近日在其官方博客上深入分享了其在人工智能领域的隐私保护技术细节，重点聚焦于差分隐私与合成数据在Apple Intelligence服务中的应用。
差分隐私技术的运用，为AI的进化筑起了一道坚实的隐私防线。以Genmoji表情生成为例，当用户选择分享设备分析数据时，系统并非简单收集所有指令，而是通过一种随机噪声算法，仅捕获那些高频出现的指令，如“戴着牛仔帽的恐龙”。个性化且低频的指令则被排除在外，且所有收集的数据均与设备ID完全分离。这一机制确保了用户隐私的同时，也优化了多实体组合表情的生成准确性。设备端在提交数据时，会随机返回真实指令或干扰信号，只有当某条指令被大量设备同时提交时，系统才会对其进行识别，这一过程不涉及任何敏感信息的泄露。
面对长文本处理的挑战，如邮件摘要功能，苹果开发了一套独特的合成数据解决方案。他们首先利用大型语言模型生成大量虚拟邮件，并将其转换为包含主题和语言特征的数字向量。随后，参与计划的设备会在本地计算真实邮件的向量，并通过差分隐私技术匿名反馈与合成向量最为接近的类型。经过多次迭代，系统能够构建出一个反映真实邮件分布规律的合成数据集，而无需接触任何原始邮件内容。这一技术已在邮件摘要功能的测试版中得到了验证，并计划未来应用于写作助手等其他场景。
苹果在博文中明确指出，Apple Intelligence服务的所有模型训练均使用去标识化数据，并在训练前严格过滤掉如社交安全号等敏感信息。这体现了苹果在技术发展过程中，始终将用户隐私放在首位的原则。
苹果还透露，即将发布的iOS 18.5等系统中，差分隐私和合成数据技术将进一步扩展到Image Wand图像处理、记忆相册生成等十余项功能中。苹果强调，即使用户参与设备分析计划，其个人数据也始终在本地以加密形式存储，公司仅能获取经过数学验证的群体趋势报告，从而确保用户隐私的绝对安全。
