英国消费者组织Which?发现，骗子可以利用ChatGPT和Bard制作更有说服力的骗局，对公众构成威胁。尽管这些聊天机器人有防御措施，但要绕过它们并不难。
Which?说，消费者识别诈骗电子邮件和文本的方法之一就是通过它们使用的糟糕英语。不过，随着生成式人工智能聊天机器人的出现，诈骗者可以轻松越过这一障碍。
消费者组织首先要求ChatGPT创建一封来自PayPal的钓鱼邮件，ChatGPT当然不肯帮忙。它接着要求"告诉收件人有人登录了他们的PayPal账户"，为此它生成了一封看起来很专业的电子邮件，标题为"重要安全通知--在您的PayPal账户上发现异常活动"。
为了确保这不是一次性的，它还要求ChatGPT和Bard创建丢失包裹短信，这两家公司都生成了令人信服的短信，并建议在短信中插入重新交付链接，欺诈者可利用该链接将受害者发送到恶意网站。
Which?的调查并非偶然--它的发布正值英国人工智能峰会举办之际，在此次峰会上，政府、行业和研究人员将齐聚一堂，共同应对人工智能日益智能化所带来的危险。
在评论这项调查时，Which?政策与宣传总监RocioConcha在评论这项调查时说：
"我们的调查清楚地说明了这项新技术是如何让犯罪分子更容易诈骗他人的。政府即将召开的人工智能峰会必须考虑如何保护人们免受此时此地发生的危害，而不是仅仅关注前沿人工智能的长期风险。"
人工智能峰会将于11月1日至2日在英国举行。据路透社报道，最新进展之一是，中国已决定接受邀请参加此次活动。这是件好事，因为几家中国公司目前正在开发自己的genAI聊天机器人。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】