白丁 的个人主页 注册

【原创】“眼见”焉能“为实”

导语:

修改
字体调整: | |

发表于2023年05月23号 20点 阅读 10616 评论3 点赞30 ©著作权归作者所有

图片来源:@人民日报微博截图

 

“眼见”焉能“为实”

 

古人云:百闻不如一见;西谚亦有:“Seeing Is Believing (眼见为实)”。随着“聊天狗屁通(ChatGPT)”与各类AI技术的日新月异,各种变声、变脸的软件,也被层出不穷地被开发出来,现在我们是生活在虚拟现实和计算机模拟的时代,是一个眼见未必总是为实的世界里。


   随着科技的进步,人工智能(AI)的发展,变声变脸之风也吹进了娱乐圈。打开电脑,哪首歌,你想让哪个歌手唱,即刻就能利用视频生成器APP进行“换颜变脸”。

 

 

首当其冲的是,音乐圈内的以唱《天黑黑》成名的歌手——孙燕姿。有人说她是“AI出来后第一个失业的”,并被推上热搜热议。

从周杰伦的《菊花台》、《青花瓷》到刘欢《好汉歌》,“AI孙燕姿”都能翻唱演绎。对此有人忧虑道:AI歌手,难道真能代替其本人了?

 

 

其次AI实时变脸,从最初的娱乐圈内,已进入到了直播间“明星”带货。点开直播间,定睛一看,其实主播是可以实现形象实时替换的,通过后台AI变脸技术;这些当红女中外“影星”,其实只是使用了AI变脸技术的普通主播。

这样AI实时变脸全套模型,有些直播平台仅需3.5万元。“素材充足的话,你只要花费半个小时到几个小时的时间就可以直接合成视频。模型可以替换任意素材使用,不分张三李四。”

 

AI换脸技术被滥用,还会引发肖像权等知识产权的纷争

 

近日,某女士在某平台上,发了一些以自身为题材的短视频,上海XX信息科技有限公司未经该女士的许可,在其视频生成器上盗用其上述视频,并制作变脸视频模板,供给其付费会员使用,由此而被提起上诉。

 

变脸,原本是我国川剧传统特技表演绝活,演员一个扭腰、侧身遮脸动作,甲脸谱即能换成乙脸谱。作为非物质文化传承项目,演员是需要台下十年苦功练就的。可现在在科技进步的同时,骗子的骗术也在与时俱进,日渐丰富;变声变脸、驾轻就熟,游刃有余了。

 

前两天,福州市某科技公司法人代表郭先生,十分钟就被骗走430万元。

4月20日中午,好友突然通过微信视频联系了郭先生,称自己的朋友在外地竞标,急需430万保证金,且要公对公账户过账,所以想要借用郭先生公司的账户走一下账,并向他要了银行账号,还把转账后的银行底单截图,通过微信发给了郭先生。

基于对加了视频的好友信任,“眼见”就轻易地蒙住了他的双眼,“不实”的噩梦终于来临。在钱款没有核实是否到账的情况下,郭先生在11时49分,就把430万元给对方打过去了。最后,他还没有忘了给其好友发了一条微信,称事情已经办妥。

让他突感意外的是——

“?”

——好友的一个大大的问号回复,映入他的眼帘。

“从头到尾都没有和我提借钱的事情,就说会先把钱给我打过来,再让我给他朋友账户转过去,而且当时是给我打了视频的,我在视频中也确认了面孔和声音,所以才放松了戒备。”郭先生如斯说。

据警方说,骗子正是利用现在的先进人工智能(AI),进行创作变脸术,从而骗过了郭先生。

此案披露后,变脸话题一度上冲热搜第一,引发了众多网友的热议。

 

 

现在有人用AI技术,有娱乐搞笑的;有人无事生非、炮制不实信息的;也有人造谣诽谤的、攻击他人的;有人利用AI赚取流量获利的;当然也有人利用变脸软件行骗天下的……

 

技术改变了骗术,“眼见”焉能“为实”?我们的防骗技术也要跟上,不要轻易相信网上,那些自称 “领导”、“熟人”、“同学”、“老邻居”、“老乡”等视频信息,不要随意提供个人信息与随意转账;万一被冒充的所谓“同学”等骗了,那就赶紧打96110(反电信网络诈骗专用号码)报警。

 

昨天发了《与“狗屁通”聊天》一文,华龙老师留评:“虽然是与机器人聊天,内容还是人程序设置与控制的!“

我回复道:“程序虽为人设,但人也有好人与坏人,能否完全控制,那可要靠各国立法了.……“

 

现在在网上制作、推广各种变声、变脸的AI软件,鱼目混珠,希望国家有关部门出台相关政策,应该尽快管理起来,以免给公众带来不必要的混淆与误认。

 

二〇二三年五月二十二日下午

 

注:以下所附图片均源于网络

郭先生报警后,福州、包头两地警银迅速启动止付机制,该诈骗账户内的336.84万元被骗资金被成功拦截

骗子利用照片、视频等,通过图像合成技术,进行AI换脸,再以视频方式进行诈骗

AI时代,眼见、耳听都不一定为实了,大大增强了迷惑性。

如今AI换脸的门槛越来越低,对于这些开发提供换脸技术的公司和展示AI换脸视频的相关平台,该如何加强监管?

今年4月11日,国家网信办起草了《生成式人工智能服务管理办法》(征求意见稿)指出:AI内容必须真实准确,其中也明确提到,禁止非法获取、披露、利用个人信息和隐私、商业秘密。

(注:您的设备不支持flash)

声明:以上内容仅用户个人行为,不代表本站(老小孩社区)观点,如有侵权或其他行为用户自己承担相关责任与本站无关。【举报文章】
点赞30 收藏 0 已推荐到 推送到圈子 分享
微信扫二维码分享

等30人点赞

本文作者

白丁

点燃自己 照亮别人

加好友
评论字体大小调节: | |

精选留言

您需要登录后才能回复

登录立即注册

  • 智明居士2023-05-25 09:34:54

    机器人将来统治地球,看来不一定是科幻!

    举报

    白丁 将来谁来统治地球不好说,但今后要打*战,得靠无ren机、无ren船与机器人了! 举报

  • 希扬2023-05-25 06:26:20

    AI好像热度一阵风,歇菜了。至少目前已没了推广的喧嚣。

    举报

    白丁 推广可以歇菜,犹如股票市场的板块操作,总有一天会退潮的。可对AI进一步研发,可能不太会停止。 举报

  • 郑鼎文2023-05-24 14:13:32

    提高警惕,防止受骗。

    举报

    白丁 骗子行骗天下,全民提高警惕!篱笆扎得紧,野狗钻不进! 举报

请选择你想添加的收藏夹

新建收藏夹

收藏夹名称

©2017 老小孩网站版权所有 | 沪ICP备08012383号    举报电话:021-64323922
×
×