你的自拍正在帮AI学习，而未征得你同意：好玩AI工具棘手的伦理学指南

　　By?Shira Ovide

　　December 9, 2022 at 12:30 p.m. EST

　　

　　没错，你在Instagram上发布的那张醉酒自拍照可能很尴尬。现在想象一下，自拍也是人工智能系统的训练燃料，而该系统有助于将无辜的人关进监狱。

　　欢迎来到人工智能时代。你如何处理你的脸、你的家庭安全视频、你的话音和你朋友艺术展上的照片，而它们不仅仅是关于你的。几乎完全未经你的真实同意，你在网上发布或被发布的关于你的信息正被用于辅导人工智能软件。这些技术可以让陌生人在眼前识别您，或根据你的命令生成自定义艺术。

　　无论好坏，这些人工智能系统都是用你的碎片构建的。现在你给人工智能注入了生命，却无法想象结果，但道路规则是什么？

　　我提出这个问题是因为一群人一直在尝试很酷的人工智能技术，这些技术建立在我们发布到世界上的所有信息之上。

　　我的同事Tatum Hunter花时间评估Lensa，这是一个将您提供的几张自拍转换为艺术肖像的应用程序。最近，人们一直在使用新的聊天机器人ChatGPT生成愚蠢的诗歌或专业电子邮件，这些诗或电子邮件看起来像是人类写的。这些人工智能技术可能非常有帮助，但它们也伴随着一系列棘手的伦理问题。

　　Tatum报告说，Lensa的肖像来自艺术家的风格，它们的作品被包含在一个巨大的数据库中，用于辅导生成图像的计算机。艺术家们没有允许这样做，而它们也没有得到报酬。换句话说，你有趣的肖像是建立在艺术家撕掉的作品之上的。ChatGPT通过分析您的食谱、社交媒体帖子、产品评论和互联网上每个人的其他文本，学会了模仿人类。

　　除了这两种技术外，您在Facebook上的生日派对的照片还帮助培训了警察局在刑事调查中使用的Clearview AI面部识别软件。

　　成为所有这些人工智能系统集体建设的一部分可能会让你感到不公平，或者令人惊叹。但它正在发生。

　　我请了几位人工智能专家帮助勾勒出新现实的指导方针，试图应对你发布的任何东西都可能是人工智能数据燃料这一新情况。技术已经超过了我们的伦理和法律的规范力。而让你想象你的Pinterest板有朝一日是否会被用来教杀人的人工智能机器人或让你妹妹失业，又是不公平的。

　　乔治敦法律隐私和技术中心执行主任Emily Tucker说：“虽然在你不知道或不可能知道数据“来世”的任何情况下，限制数字共享绝对是一种很好的个人实践，但这样做不会对公司和政府滥用数据产生重大影响。”塔克说，人们需要组织起来，要求隐私法规和其他限制，以防止我们的数据以我们无法想象的方式囤积和使用。

　　“我们几乎没有法定的隐私保护，强大的机构长期以来一直在利用这一点，以至于我们开始表现得好像这是正常的”，塔克说：“而这其实是不正常的，也是不对的。”

　　柏林的艺术家Mat Dryhurst和Holly Herndon帮助建立了一个项目，从用于训练人工智能系统的流行数据库中识别艺术家的作品或你的照片。Dryhurst告诉我，一些人工智能组织，包括收藏用于生成Lensa肖像的大规模图像的LAION，当他们想从计算机训练数据集中拉出个人图像时，他们渴望人们标注自己的个人图像。（网站是Had I Been Trained。）

　　Dryhurst说，他对人工智能对像他这样的艺术家的潜力感到兴奋。但他也一直在推动一种不同模式的许可，以用于你在网上发布的内容。他说，想象一下，如果你将自拍上传到Instagram，并可以选择对用于未来人工智能培训的照片说是或否。

　　也许这听起来像是乌托邦式的幻想。你已经习惯了这样的感觉，一旦你将自己或你所爱的人的数字片段放到网上，你就会失去对接下来会发生什么的控制。Dryhurst告诉我，由于Dall-E和ChatGPT等公开的人工智能受到了很多关注，但仍然很不够，现在是重建人工智能时代真正个人同意的理想时机。他说，一些有影响力的人工智能组织也对此持开放态度。

　　加州大学伯克利分校计算机科学教授Hany Farid告诉我，像他这样的个人、政府官员、许多技术高管、记者和教育工作者已经比几年前更适应人工智能等新兴技术的潜在积极和消极后果。他说，困难的部分是知道该怎么做才能有效限制伤害并实现利益最大化。

　　Farid说：“我们已经披露了问题，但不知道如何修复它们。”