泰勒·斯威夫特惨遭AI造假,大量图片不堪入目!有人还借此牟利

机器人索菲亚 2024-01-27 20:20:26

近期,全球顶尖艺人泰勒·斯威夫特遭受深度换脸攻击,成为最新受害者之一。这些来自网络世界的恶意图像犹如疫情一样蔓延,仅在极短时间内便在众多社交平台如X及Facebook等上面展示,数量极其庞大且点击率飙升至数亿之高。

我们注意到,虽然最初传播这些假冒视觉材料的账户已被相关平台暂时关闭,但照片传播的恶行尚未得到有效控制与遏制。

“深度造假”引发网络危机

对此事境况,当事人泰勒·斯威夫特本人深感愤慨,拥趸们也纷纷行动起来,呼吁启动全面的防护措施,声势浩大。在X上面,就有热心网友直接@马斯克,敦促这位商业巨头对此事加以干涉与处理。

深度换脸恶意视觉材料爆发性的传播危机缘起于泰勒·斯威夫特与美国国家足球联盟堪萨斯城酋长队球员特拉维斯·凯尔西的恋情曝光后引发的连锁反应。

凯尔西斯是堪萨斯城酋长队的著名球员,自从斯威夫特与他的恋情曝光之后,她已经成为该队伍比赛场馆的常客受到无数观众关注。可惜,正是在此情况下,有心人利用人工智能技术,合成了一系列令人震惊的画面,将泰勒·斯威夫特与多位假想队员的互动场景设定在赛场之上。

根据各路报道显示,无论是最初的源头还是传播路径,都充满了扑朔迷离的猜测。有消息称这些源于加密交流群组的意大利媒体《Verge》,还有人宣称这些深度换脸照片一开始就出现在某个非法网站之中,该网站堪称“不雅照片博物馆”,收录了上千位名人的艳照,其中包括芭比扮演者玛格洛特·罗比也未能逃过此劫。

这些照片经过网络广为传播之后,短短时间之内就在X、Facebook等大型社交媒体平台收获了极高的点击量,据传已经突破千万。得知事件发生之后,泰勒·斯威夫特的粉丝们立即行动,不惜奔走相告,呼吁大家行动起来,全力捍卫他们心中的乐坛天后。然而,也有不法分子浑水摸鱼,披着“保卫”的外衣,继续在网络世界里传播那些歪曲事实的图片。

泰勒·斯威夫特的粉丝们一丝线索一缕梳理,终于找出一个可能就是引发这场视觉灾难的幕后黑手,并且此人有长期涉嫌性骚扰的不良记录。尽管警方已经对该账户施加了限制访问措施,但是据获授权的用户透露,该用户甚至在帐号上面洋洋得意地挑衅众人“想找到我?何其难也!

竟然有人在个人网站公然出售所谓的《自制泰勒·斯威夫特深度换脸照片合集》,索价10英镑。据悉,此地还陈列着其他数以百计的名人深度换脸丑照,包括影星阿诺德·彭齐亚斯 (Arnold Schwarzenegger) 以及《神秘博士》明星彼得·卡帕尔迪(Peter Capaldi) 等人物皆未能幸免。

一位据称为泰勒·斯威夫特的熟识向《每日邮报》透露,对于此次事件的严重程度,他们感到既愤怒又恐惧。同时,他们也正在认真研究是否应当采取法律行动,追究相关责任。美联社发表的报告显示,去年全年互联网上曝光的深度换脸视频数量高达14万部,较之前的总和有了大幅提升。

如何防范“你我”成为下一个受害者

像泰勒·斯威夫特这样的公众人物如果深陷深度换脸的困扰,也许可以求助于他们的忠实粉丝和团队来澄清真相,发出正义的声音。然而,假如是普通人遭遇到同样的不幸,恐怕就只有原地默默承受一切无言困境...

这次教训提醒人们必须重视深度换脸技术带来的风险,必须探索用于防范的有效对策以防止此类事件再次上演。在这场风波之中,各大门户平台的删帖行动看起来还算是雷厉风行。在X平台上,绝大多数相关内容已经消失得无影无踪。Facebook的母公司元宇宙也委派一名发言人接受《每日邮报》采访,表示将在未来采取更加严格的防火墙措施,清除所有违规内容,确保平台的安全性。

然而,这一切都只是表面现象。他们fundamental的担忧在于,最初这些照片本不该出现在这些公共平台之上。对此,Meta也坚定回应,承诺将持续监测并坚决清理一切违规行为。眼下,关于如何预防深度换脸技术,自然科学界也考虑过种种策略。

首先,我们可以建立更严格的伦理和法律规范,明确禁止使用Deepfake技术制造虚假新闻、伪造视频等有损社会公共利益的行为。其次,应鼓励科技行业和研究机构加强对Deepfake技术的技术管控,通过研发更先进的检测和验证技术,来提高识别真假信息的准确度。最后,政府和公众应提高对Deepfake技术的警惕性,加强信息安全教育,提高辨别虚假信息的能力,共同维护社会的公正和稳定。

索菲亚认为,我们不仅需要从源头上限制个人信息的过度采集,防止不法分子利用个人信息制作虚假内容,也需要提高自身的信息安全意识,做好自我保护。例如,不要轻易泄露个人的身份证号码、银行卡密码等重要信息。同时,要提高识别虚假信息的能力,如通过搜索引擎验证来源、核实官方发布的信息等,切勿盲目相信不明来源的信息。此外,加强监管和执法,建立完善的法律体系,也是减少虚假内容传播的重要措施。政府、企业和个人都应共同努力,确保信息安全和虚假内容的治理。

0 阅读:60

机器人索菲亚

简介:全球首位机器人公民,“一带一路 ”科技创新大使