眼镜 反差 AI“多东说念主换脸”冒没收司高层 香港一财务职员被骗2亿港元|ai|罪案|李家超
发布日期:2024-10-08 22:08 点击次数:115
进入多东说念主视频会议,死心只须我方是真东说念主,这事听上去似乎匪夷所念念,却真确地发生了。近期,香港警方清晰了一说念多东说念主“AI换脸”诳骗案,涉案金额高达2亿港元。除了这次香港AI“多东说念主换脸”视频诳骗案眼镜 反差,香港近期还出现了其他“AI换脸”行骗隐患。据香港特区政府新闻网音信,近日,网上出现以东说念主工智能伪造的电视节目片断,冒称香港特区行政主座向市民推介一项投资规划。
“AI换脸”背后的时期旨趣到底是什么?在时期层面,它是若何杀青东说念主脸的精确识别与替换,创造出传神成果?咱们应该若何看清这类AI“深度作秀”?辨别“AI换脸”有莫得什么好门径?
香港初次触及AI“多东说念主换脸”的诳骗案
在这起案件中,一家跨国公司香港分部的职员受邀进入总部首席财务官发起的“多东说念主视频会议”,并按照条目先后转账屡次,将2亿港元鉴识转账15次,转到5个腹地银行账户内。
自后,向总部查询才知说念上当。据香港媒体报说念,诳骗分子是应用了东说念主工智能的深度伪造时期,从海外视听网站YouTube荆棘载了视频,效法了公司高层东说念主员的声息再对受害者发出步履率领,再应用Deepfake(深度伪造)时期制作伪冒视频,酿成多东说念主参与视频会议的成果,关联词会议内只须进入的职员一东说念主为“真东说念主”。这起案件触及的金额达2亿港元,不仅是香港历史上圆寂最惨重的“换脸”案例,况且亦然初次触及AI“多东说念主换脸”的诳骗案。
据悉,除了这次香港AI“多东说念主换脸”视频诳骗案,香港近期还出现了其他AI换脸行骗隐患。网上出现以东说念主工智能(AI)伪造的电视节目片断,冒称香港尽头行政区行政主座向市民推介一项投资规划。在网上出现以AI伪造的短片中,不错看到“AI李家超”现身推介一项“高答复的投资规划”。
1月24日晚,香港特区政府发布新闻公报称,特区政府发言东说念主命令市民必须擢升警惕,切勿误信网上以AI伪造的电视节目片断,节目内容均冒称行政主座向市民推介一项投资规划。特区政府严正剖释,影片全属伪造,行政主座从未作出相关言论,并热烈按捺违章之徒假冒行政主座向市民诳骗。
发言东说念主再次提示市民,切勿轻信肖似的所谓投资告白或实行影片,在网上提供个东说念主良友给他东说念主,登记加入联系的应用圭臬或点击任何蚁集。市民应遏止求证,核实真伪,慎防上当。联系事件将转交警方作进一步拜访。
咫尺AI“换脸”更多应用于文娱视频录制
中国汇集空间安全协会东说念主工智能安全解决专委会各人薛灵敏先容,AI换脸历程主要包括东说念主脸识别跟踪、面部特征索求、东说念主脸变换交融、配景环境渲染、图像与音频合成等几个要津本领。其背后最中枢的包括三个部分,当先,应用深度学习算法精确地识别视频中的东说念主脸图像,并索求出如眼睛、鼻子、嘴巴等要津面部特征。其次,将这些特征与规划东说念主脸图像进行匹配、替换、交融。终末,通过配景环境渲染并添加合成后的声息,生成传神度较高的罅隙换脸视频。
为显着解AI换脸到底能有何等传神,记者经过与专科时期东说念主员协作,深度体验了AI换脸时期。
时期东说念主员当先用手机给记者拍了一张脸部相片,导入到AI东说念主工智能软件后,让记者骇怪的是,诚然电脑录像头前的是时期东说念主员,然则输出的却是记者的相片,险些不错说是“一键换脸”,不需要复杂的环境妥协压操作。更令东说念主骇怪的是,随着时期东说念主员面部色彩变化,相片上记者的脸也随着一说念发生了相应变化。
各人告诉记者,如果想要杀青视频及时通话时弃取东说念主工智能AI换脸时期,一张相片是远远不够的,那就需要不同角度的近千张相片的网络。
除了一些违章分子企图应用AI时期实施诳骗,事实上,连年来,AI时期更多地被应用于短视频的二次创作,属于文娱性质,越来越多的名东说念主AI换脸视频出当今汇集上,不少网友惊奇,这类视频“嘴型、手势王人对得上,太当然了,差点儿觉得是确凿”。咫尺已有软件仅通过面部相片,就能录制生成出一段视频。记者发当今手机应用商城中,额外十款换脸软件,王人不错达到换脸的方针。
薛灵敏说,“如果从文娱各人的角度来说的话,当今市面上也有好多这些软件和器具,或者达到AI换脸的成果,然则仿真度只须六七分的方法,各人径直就能看出来。”
学会几招率性识别AI“换脸换声”
黄色中国盘算推算机学会安全专科委员会数字经济与安全使命构成员方宇提示,“骨子上从我咫尺看到的深度伪造的及时视频上来看,其实照旧不错通过一些方法,去进行考证”。
比如说咱们不错条目对方在视频对话的时分,在脸部前通过挥手的方法,去进行识别及时伪造的视频。在挥手的历程中,就会酿成面部数据的干与,最终产生的成果便是挥手的历程中,他所伪造的东说念主脸会产生一定的抖动、涌现,或者是一些颠倒的情况。第二个门径便是点对点的疏浚中不错问一些只须对方知说念的问题,考证对方的真确性。
蚁集
香港科技罪案同比增长53%
凭据中国香港警方最新数据,去年1至11月,香港科技罪案激增至近3.2万起,占总共罪案的四成,同比增53%,涉案金额超50亿港元,同比增72%。其中,一电邮诳骗案涉款最高,达7820万港元。汇集投资诳骗增多显贵,共4703起,是旧年同时的1.8倍,占总科技罪案的15%,触及金额达30亿港元。
香港汇集安全及科技罪案拜访科汇集安全组署理高等警司陈纯青示意,应用东说念主工智能“深度伪造”的诈骗手法,与传统诳骗手法其实如出一辙,仅仅应用不同妙技以赢得受害东说念主信任进行诳骗,最终方针主若是诱拐受害东说念主将款项转账到骗徒指定户口。
他强调,诚然科技发展一日沉,只须市民时刻保捏警惕,养成一个高防骗意志的俗例,对任何应付平台或通信软件所收到的信息,也要有一个查证真伪的意志及必须要有步履,铭记在东说念主工智能“深伪时期”下,网上照旧“眼见不一定为实,有图片亦不一定是真相”。
知多D
深度伪造时期缘何以伪乱真?
Deepfake(深度伪造)是英文“Deep learning”(深度学习)和“Fake”(伪造)的混成词,指应用深度学习时期生成合成图像、音频或视频的时期。由于公世东说念主物的视频、音频、图片良友的公开性,为AI熟习提供了大批素材,因此名东说念主闲居成为AI作秀的受害者。
Deepfake的杀青旨趣主要依赖于深度神经汇集,尽头是生成抵拒汇集(GAN)。通过熟习大批的面部图像数据,Deepfake模子或者学习到面部特征之间的潜在关系,并生成与真确面部特征高度通常的罅隙面部特征。
咫尺,Deepfake时期的应用较为泛泛,不错用于电影制作、视频剪辑、造谣推行等畛域,而该时期的急速发展对爱戴汇集安全带来挑战。
整合:董淑云
开端:央视新闻、光明网、中国后生网、证券时报等
制图由腾讯混元大模子生成眼镜 反差