离大谱,一个标有美国消费者新闻与商业频道CNBC logo的视频称:
“每个欧洲人靠ChatGPT,每周能赚3到4千欧元。”
“投资平台利用AI,特别是GPT,来分析公司股票和在线趋势信息。利用这些信息,程序自动买卖股票,使平台用户获利。”
好家伙,用ChatGPT这么好赚钱??
别急,亮相CES 2024的一种Deepfake音频检测技术来打假了。
上面视频中字幕标红的内容全都是伪造的,像下面这样标绿的部分才是真实的信息。
当然,视频右边的实时监测图,早就说明了一切,遇到伪造内容纵坐标嗖的一下就上去了。
这就是来自知名杀毒软件公司迈克菲(McAfee)的一项打假技术,名为Project Mockingbird。
随着AI技术的发展,现在网络上充斥着不少AI合成的音视频,其中的信息也是真真假假,有时令人难以分辨,甚至有一些不法分子用其来诈骗和操纵公众舆论。
而现在,迈克菲推出的这项技术,据称识别AI伪造音视频准确率超90%。
杀死一只“反舌鸟”
迈克菲2023年12月做的一项调查显示,美国人对Deepfake的担忧日益显著,近68%的受访者表示比去年更担心Deepfake,33%的人明确表示遭遇过Deepfake骗局或了解相关情况。
像下面这样婶儿的“霉霉给粉丝免费送锅”等AI合成的假视频,就坑过不少人。
于是迈克菲推出了Project Mockingbird。取这么个名,原因是Mockingbird(可译为反舌鸟)是一种善于模仿其他鸟类及昆虫、两栖动物的叫声的鸟。
他们的策略是用AI打败AI。
Project Mockingbird使用AI驱动的上下文、行为和类别检测模型的组合,来识别视频中的音频是否可能是AI生成的。
具体来说就是将音频或视频输入模型,分类模型从音视频数据中确定分析的内容是否属于预先定义的某些类别,并且可以确定伪造音频的起始位置,标记出伪造的部分。
迈克菲CTO Steve Grobman表示研究团队正在构建Project Mockingbird核心技术模块,将这项技术投入产品线中使用。
西风 发自 凹非寺