solidot新版网站常见问题,请点击这里查看。

卡梅隆警告“深度伪造(Deepfakes)的危险”

科技
wanwan (42055)发表于 2022年01月25日 20时47分 星期二

来自暗黑童话
著名导演卡梅隆(James Cameron)接受采访谈论了足以以假乱真的深度伪造(Deepfakes)的危险性。他说:我们创造的几乎所有东西都会在某些时候出问题。我一直工作在视觉效果的前沿,目标是逐步获得越来越真实的照片。因此从某种意义上说,每次改进工具时,我们实际上都是在构建一个创建虚假媒体的工具集——我们现在看到这种情况发生了。现在玩这些应用程序的人还不多。但随着时间的推移,限制将消失。你看到并完全相信的东西可能是伪造的。

这是我们依赖视频的大问题。新闻周期发生得如此之快,人们的反应如此之快,在 Deepfake 的内容发布和被暴露是假的之间,你可能会遇到大事。我们看到了一些情况——你知道,阿拉伯之春就是一个典型的例子——在社交媒体上,暴动几乎在一夜之间发生了。你必须真的强调批判性思维。你是从哪里听来的?你知道,我们有这么多的搜索工具可用,但是人们就是不用。了解你的信息来源。调查你的信息来源。你的消息来源可靠吗?

但是我们也不应该陷入荒谬的阴谋妄想症。当科学家发表他们的研究结果的时候。科学界的人不会只说,“哦,太好了!”不,你要经过重要的同行评审阶段。它必须经过审查和检查。研究发现越激进,同行评审就越多。所以优秀的同行评审科学无法说谎。但是出于某种原因,人们的头脑会倾向于对现实进行更性感、更恐怖片式的解读,而不是接受显而易见的解释。

我总是使用奥卡姆剃刀——你知道,奥卡姆剃刀是一个伟大的哲学工具。它说最简单的解释是最有可能的。阴谋论太复杂了。人没那么好,人的系统没那么好,人无法保守秘密来保命,大多数掌权者都是装模作样的傀儡。事实上,我们认为他们真的可以实现这些——这么复杂的情节?我根本不相信这样的胡扯!比尔盖茨并没有真的想通过流感疫苗给你植入芯片!

你看,你知道的,我总是对新技术持怀疑态度,我们都应该这样。曾经的每一项技术进步都变成了武器。我一直在对人工智能科学家这样说,他们说,“不,不,不,我们已经控制住。”你知道,“我们只给人工智能正确的目标……”那么谁来决定这些目标是什么呢?是那些给研究提供资金的人,对吧?那些都是大企业或者国防机构。所以你要么就是要教会这些有意识的实体贪婪,要么就是教会他们杀人。

如果天网(Skynet)想要主宰一切并消灭我们,实际上这看起来很像现在正在发生的事情。它不需要——比如说,用核武器消灭整个生物圈和环境。让我们的思想反对我们自己,这将变得容易的多,需要的能量也少得多。天网要做的一切就是 deepfake 一些人,让他们互相对抗,传播煽动性的信息,让人们陷入巨大的 deepfake 之中。

我的意思是,现在的我就可能是人工智能创造的投影。