BBC主持人的肖像在广告中被使用，因公司被AI生成的声音欺骗
有关这个声音，他们觉得有些奇怪。
他们认为这个声音很熟悉，但过了一会儿，它开始变得无法辨认。科学节目主持人利兹·波宁（Liz Bonnin）的口音，正如BBC的观众所知，是爱尔兰口音。但这段声音留言表面上授权使用她的肖像参与广告活动，可是听起来却像是另一个地方的声音。原来，这段留言是伪造的 - 由人工智能生成以模仿波宁的声音。她的管理团队得到了这个消息，因为他们在本周在网上看到了一款驱虫喷雾的广告，广告上出现了主持人的脸，而她并没有为此注册。“一开始它听起来像是我，但后来听起来有点澳大利亚口音，最后完全变成了一个英国女人。这一切都是支离破碎的，没有节奏”，以主持《Bang Goes the Theory》和《Our Changing Planet》而闻名的波宁说。“这让人觉得被侵犯，这并不是一件愉快的事情”，她说。“谢天谢地，这只是一种驱虫喷雾，而不是我所声称为某种真正恐怖的东西做广告！”负责这次失败广告活动的公司Incognito的首席执行官霍华德·卡特（Howard Carter）声称，他接到了一位他认为是波宁发来的多条语音留言。他说，这些语音留言“为他提供了真实性”，让他确信他确实在与她交谈。此前在被一位冒充波宁的Facebook个人资料联系之前，他已经寻求过她的背书。他声称，两人之间的消息交流让他相信她是真的，尽管他觉得这个资料有点可疑。冒充波宁身份的人提供了一部电话号码和一封电子邮件地址给卡特。他们还向他提供了一位自称来自野生动物信托的人的联系方式，该慈善机构是波宁的主席。他说，该交易是通过WhatsApp和电子邮件进行洽谈的。他还声称自己至少在一次电话会话中与冒充波宁的人交谈过。3月13日，卡特收到了一份电子邮件合同，他相信这是由波宁电子签名的。公司于3月15日向一家与数字银行相关联的账户汇款了2万英镑，银行对账单显示。五天后，用于活动的波宁的图片被发送出去。Incognito随后发送的电子邮件未得到回复。在周一启动了广告活动，使用了骗子发送的报价和图片后，波宁在X上表示她没有同意与该公司做任何背书。冒充波宁的人在周二给卡特发短信道歉，并表示她没有处理她的社交媒体，还提到了服务器和安全问题。在这一点上，卡特意识到自己被欺骗了。波宁说：“我为这家公司经历的事情感到非常抱歉。这对他们来说一点都不好玩，但这对我们双方都是一种侵犯。这是一个提醒，如果看起来太美好、太容易或有点奇怪，要多加检查。”她补充说：“如果有人联系你说，‘嘿，我们不要走专业的途径’，那么要小心。”卡特声称，他之所以没有通过波宁的管理机构获得批准签署这项交易，是因为冒充她的人说“她帮了我们一个忙，只要我们直接和她联系，不要牵涉到她的主要代理机构”。在《卫报》听到的一段AI生成的波宁的语音留言中，她说了许多僵硬的短语，比如“我必须感谢您为我们的合作设想提供的清晰方向”。两位评估了该语音留言的AI专家一致认为，这很可能是人工生成的。图像检测初创公司Reality Defender的高级应用科学家苏雷亚·科皮塞蒂（Surya Koppisetti）表示：“有与AI生成的语音一致的间隙和朗读速度问题。对话在口音方面存在不一致性。”科皮塞蒂补充说，尽管环境有噪音，但语音质量“异常清晰”。AI技术公司Faculty的高级数据科学家迈克尔·基林（Michael Keeling）表示，语音留言中“恒定的、单调的”人工背景噪音“是使某物看起来更真实的经典方法”。“如果你在繁忙的街道上用手机听这个，很容易就能蒙混过关，”他说。波宁表示，这一事件是对人工智能潜在风险的“警示”。她补充说：“人工智能有很多有益于社会的用途。我们听说它可以用来识别癌症，但它也深深地不受到足够的监管。这项技术只会变得更加先进和复杂，”Incognito表示已向警方和银行报告了此事件。在一份声明中，公司表示：“我们希望[我们的首席执行官]被这个精心策划的诈骗行为骗了对其他人不要落入同样或类似圈套的警示。使用人工智能和其他计算机生成的通信方式的精通罪犯多次针对霍华德和Incognito。“可理解的是，许多公司不希望被公众听到他们因为尴尬和羞耻而受骗。作为一家道德、透明经营的公司，我们觉得有责任提醒人们及其企业关于这种聪明欺骗的崛起。我们公司的霍华德和所有其他人向利兹·波宁及其同事为我们无意间造成的任何伤害表示道歉。”BBC未对置评请求作出回应。野生动物信托拒绝置评。
感谢阅读！如果您对AI的更多资讯感兴趣，可以查看更多AI文章：GPTNB。
BBC主持人的肖像在广告中被使用，因公司被AI生成的声音欺骗
