人工智能广告的潜在危险

人工智能（AI）领域正在以惊人的速度发展。大大小小的公司都在竞相以新的、有用的方式来发挥生成人工智能的力量。

但是，虽然人工智能在提高人类生产力和解决人类问题方面极具价值，但越来越多的专家开始担心意想不到的后果。但距离数万名专家联盟签署的“暂停开发比GPT-4更高级的人工智能”公开信发布不到两周，Facebook母公司Meta 正式宣布计划使用生成式人工智能，该技术对数字广告行业的潜在影响可能是危险的。

Meta 的分段任意模型 (SAM)

上周，Meta 宣布了一种新的生成人工智能——分段任意模型(SAM)可以近乎实时地处理任何图像或视频帧，并识别图像中的每个不同对象。人类能够轻松分辨图像中的不同对象，但是对于计算机和人工智能技术来说，这一直是个难点。但现在有了 SAM 模型，计算应用程序可以实时识别图像中的对象。 

实时识别视野中物体的能力是一个真正的里程碑。它将在增强/混合现实环境中实现神奇的用户界面，这在以前是不可行的。

例如，您将可以注视视野中的真实物体，眨眼或点头或做出一些其他明显的手势，并立即接收有关该物体的信息或远程与其进行电子启用的交互。几十年来，这种基于注视的交互一直是混合现实系统的目标，而这种新的生成式 AI 技术可以让它成为现实，即使你的视野中有数百个物体，即使其中许多物体被部分遮挡。这是生成式人工智能的一个关键和重要的用途。

潜在危险：人工智能生成的广告

另一方面，Meta CTO Andrew Bosworth 上周表示，该公司计划开始使用生成式 AI 技术来创建针对特定受众定制的有针对性的广告。这听起来像是对生成式 AI 的一种人畜无害的应用，但这实际上是一个危险的方向。

生成工具现在非常强大，如果允许公司使用它们为目标“受众”定制广告图像，我们可以预期这些受众将缩小到个人用户。换句话说，广告商将能够生成由人工智能系统即时制作的定制广告（图像或视频），以优化它们对你个人的影响。

作为“单独的观众”，您可能很快就会发现有针对性的广告是根据随着时间的推移收集到的有关您的数据定制的。毕竟，用于制作广告的生成式 AI 可以了解哪些颜色和布局最能有效吸引您的注意力，以及您认为最值得信赖和吸引人的人脸类型。

人工智能也可能有数据表明过去哪些类型的促销策略对你有效。借助生成式 AI 的可扩展能力，广告商可以部署定制的图像和视频，以极其精确地按下您的按钮。此外，我们必须假设不良行为者会使用类似的技术来传播宣传或错误信息。

难以逃脱的AI“广告茧房”

更令人不安的是，研究人员已经发现了可用于使图像和视频对个人用户极具吸引力的技术。例如，研究表明，将用户自己面部特征的各个方面融合到计算机生成的面孔中，可以使该用户更“喜欢”所传达的内容。

例如，斯坦福大学的研究表明，当用户自己的特征融入政客的面部时，由于图像处理，个人投票给候选人的可能性增加 20%。其他研究表明，积极模仿用户自己的表情或手势的人脸也可能更有影响力。

除非受到政策制定者的监管，否则我们可以预期生成的人工智能广告可能会使用各种技术来部署，以最大限度地发挥它们对个体目标的说服力。

正如本文开头所言，我们坚信人工智能技术，包括生成人工智能工具和技术，将显著提高人类生产力并解决人类问题。尽管如此，我们仍需要采取保护措施，防止这些技术被用于欺骗、强制或操纵的方式，从而挑战人类的能动性。   

本文作者Louis Rosenberg 是 VR、AR 和 AI 领域的先驱研究者，也是 Immersion Corporation、Microscribe 3D、Outland Research 和 Unanimous AI 的创始人。