5月22日消息，近段时间AI非常火爆，全球很多公司都推出了类似ChatGPT的产品，此外还有一些视频生成、图片生成的AI产品，在某些方面已经足以替代人类。

与此同时，背后也隐藏这一些危机，因为这些AI造假太容易了，可以轻而易举的模仿人的样貌、声音等等。

近日，包头警方就公布了这么一起利用人工智能（AI）实施电信诈骗的典型案例，福州市某科技公司法人代表郭先生10分钟内被骗430万元。

据介绍，4月20日中午郭先生的好友突然通过微信视频联系他，自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。

基于对好友的信任，加上已经视频聊天核实了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了好友朋友的银行卡上。

之后郭先生拨打好友电话，才知道被骗，骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。

当然，骗子的手段也非常高明，并没有用仿真微信号添加郭先生，而是直接用好友微信发起视频聊天，这也是郭先生被骗的原因之一，骗子极有可能通过技术手段盗用了郭先生好友的微信。

幸运的是，福州、包头两地警银迅速启动止付机制，在接到报警后成功止付拦截336.84万元，但仍有93.16万元被转移，目前正在全力追缴中。