科技工程 2023-11-25 09:41

周一,科技投资者马丁·卡萨多在社交媒体上发布了关于人工智能语音克隆手机骗局的警告,他说他的父亲差点就上当了。

卡萨多的父亲接到一个自称是卡萨多的人打来的电话,他说他“因车祸入狱,需要1万美元的保释金”,卡萨多在X上(以前叫Twitter)的帖子中写道。“他正要去银行,但还是决定给我打个电话以防万一(幸好我接了电话,我在日本)。”

上周四,参议院老龄化委员会举行了一场听证会,讨论了这种技术驱动的电话骗局。在这种类型的骗局中,骗子通过将网络钓鱼电话或公共社交媒体视频的录音输入基于人工智能的系统来复制某人的声音。然后,他们可以使用这些人工智能克隆体冒充你给你的亲人打电话,要求一些东西(通常是经济援助)。

一些语音克隆工具很容易在网上找到。其中一种工具Lovo的制造商表示,它使用一种算法将语音录音分解成小块音频。这些块被用来创建一个模型,该模型可以使用语音将用户输入的文本转换为新的音频片段,Lovo说,这种声音听起来几乎与原始说话者的声音一模一样。

人工智能技术的进步降低了创造这种合成音频的门槛。微软的研究人员在一月份宣布,他们已经成功地用一段三秒钟的录音来模仿语音,尽管这种特定的工具还没有向公众开放。为公众提供这种语音克隆服务的Speechify公司表示,他们可以使用一段30秒的音频片段来实现这一目标。

如今,这项技术已经触手可及,而且还在不断改进,潜在的渎职行为已经引起了联邦政府的注意。宾夕法尼亚州参议员鲍勃·凯西在周四的听证会上说:“语音克隆可以模仿爱人的声音,很容易欺骗消费者和企业,让他们泄露有价值的个人信息。”

几位家长在听证会上发言,分享了与卡萨多非常相似的故事:他们每个人都接到了听起来像自己孩子的电话,请求立即帮助他们保释。上周五,联邦调查局发布了一份公共服务公告,警告称该机构已收到超过195起关于此类“祖辈骗局”的投诉,受害者至少被骗取了190万美元。

联邦调查局建议人们限制他们在社交媒体和约会网站上发布的个人身份信息,并警告消费者永远不要向通过网络或电话联系的陌生人汇款。

联邦调查局写道:“如果你接到一个自称是家庭成员的人打来的不请自来或可疑的电话,并紧急索要钱,请挂断电话。”直接打电话给你的家人,核实一下这个故事。如果你联系不上他们,就给家里的其他人打电话,即使骗子告诉你要保密。”

听说湾区的科技公司有什么新鲜事吗?有限公司请通过stephen.council@sfgate.com或628-204-5452与技术记者Stephen Council联系。

黑色星期五|亚马逊10美元以下的20件聪明的商品(你会用到的)户外|在加州森林深处我发现了一场可怕的地震的起源历史|恶魔岛最著名的逃犯幸存下来了吗?当地人|怎么有这么多便便?:游客对顺丰有什么疑问