要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

Meta再陷数据隐私风波：挪威指其利用用户数据训练AI模型违规

北京时间2024年6月14日 – 社交媒体巨头Meta（META.US）近日再次陷入数据隐私纠纷。挪威消费者委员会（NCC）于6月13日宣布，已向挪威数据保护局（NDPA）提起正式投诉，指控Meta计划违规利用Facebook和Instagram用户数据训练人工智能模型。

NCC表示，Meta在未获得用户明确同意的情况下，擅自将用户发布在Facebook和Instagram上的图片、帖子等内容用于训练其人工智能模型。这一做法涉嫌违反欧盟通用数据保护条例（GDPR）的相关规定。

根据GDPR，欧盟公民拥有对其个人数据的广泛权利，包括控制其数据如何被收集和使用的权利。企业在处理用户数据时，必须遵循合法、公平和透明的原则，并获得用户的明确同意。

NCC指出，Meta在处理用户数据方面存在以下问题：

• **未获得明确同意：**Meta并未明确告知用户其数据将被用于训练人工智能模型，也没有提供简单易懂的方式供用户拒绝或撤回同意。
• **数据用途模糊：**Meta没有详细说明其将如何使用训练好的人工智能模型，以及这些模型可能对用户造成的影响。
• **缺乏透明度：**Meta并未公开其数据处理流程和技术细节，使公众无法了解其如何保护用户数据隐私。

NCC呼吁NDPA对Meta展开调查，并采取必要措施制止其违规行为。同时，NCC也提醒用户注意保护个人数据隐私，仔细阅读相关条款和隐私政策，并在必要时拒绝或撤回对数据处理的同意。

Meta尚未对NCC的投诉作出回应。此前，Meta已因数据隐私问题在欧洲多次遭到监管机构的处罚。2022年3月，爱尔兰数据保护委员会对Meta处以1.9亿欧元罚款，原因是其未经用户同意分享用户数据。

近年来，人工智能技术的发展引发了对数据隐私的担忧。如何平衡人工智能创新与数据保护，已成为全球各国亟需解决的难题。