人工智能学会生成高质量假照片,这一天终于来临了。
重要警告:人工智能现在已经非常擅长生成假照片了,这些照片真实度之高,简直可以欺骗人眼,让我们分辨真假困难重重。Midjourney和stable diffussion等AI图像生成系统已能制作出极为逼真的假照片,以至于人类很难区分真假。这些系统通过对海量图像的学习和分析,可以拼凑出令人惊叹的新照片,包含系统未见过的元素。如果被用于制作虚假新闻或网络诈骗,后果不堪设想。
那AI爆发的时代,人工智能生成的真实图片将遍布网络,我们该如何辨别?
如今当你看到一张特别真实的惊人照片又不可信时,不妨多加怀疑,它很可能是人工智能生成的假照片。因为人工智能图像生成系统最近进步神速,制作出的照片已经极难辨识真伪,甚至能够愚弄专业人士。
就在最近,国外有人使用人工智能系统生成了前总统特朗普被逮捕的照片,以及教皇身穿时髦白色棉衣的照片,这两张照片在网上疯传。它们证明,人工智能图像生成技术已经足够先进,可以产生足以欺骗普通观众的作品。
那么,怎么判断一张照片是不是人工智能生成的呢?
遗憾的是,目前最先进的图像生成系统产生的照片肉眼已经很难识别。
不过,一些细节可以提供线索,比如手的画法。人工智能目前在还原人手时会很抓狂, 经常画出太多手指。不过,新一代AI作图系统,像大名鼎鼎的Midjourney V5似乎已经解决了这个问题,至少在某些照片中是如此。
整体来说,目前各类最强的AI图像生成系统,产生的最真实照片,人类几乎不可能与真实照片区分开来。
要知道,人工智能图像生成系统,现在可以做到的事情真的很神奇。在过去一年左右的时间里,ai图像生成能力在巨大跃进。当然,功劳之一是提供给这些人工智能系统训练的图像数量越来越多,另外还有数据处理基础设施的进步,以及像 ChatGPT 这样的交互界面,让普通网民也能够使用这些技术。
结果,人工智能生成的图像无处不在,基本不可能检测出来。
相关的实验表明,人工智能已经具备高度欺骗人类的能力。国外2021年底进行此类实验时,结果就令人沮丧。
研究者标记了参与测试人员每次回答的正确与否,甚至提前让参与者了解了AI生成图像的bug和问题,也就是告知了他们人工智能算法经常出错的地方,比如错配的耳环,或糊在一起的牙齿。因为那时的算法经常难以处理比简单背景更复杂的图像。即便如此,参与者的判断很随机,几乎没什么准确性。
而且,2023年了,用于这项试验的人工智能图像生成系统早已更加先进了!
但我们真的没有办法判定AI生成的“真图”么
还真有!
人工智能的发展速度很快。但与图像生成系统同时发展的,还有图片检测系统,也称为“深度伪造检测”。这些系统可以通过分析照片的细微差异,像人类视觉系统那样判断图像的真实性。在一些初步研究中,图像检测AI已经可以达到甚至超过人类的准确度。
虽然很讽刺,但人类区分人工智能生成图像最好的办法,就是用另一个人工智能系统,一个训练后可用于检测AI生成的图像的系统。
而这,可能就是最终的解决办法了!
总而言之,科技的发展总是利弊交加,人工智能也不例外。它带来的方便之处,也同样带来潜在威胁,像生成假照片这样的技术可能被滥用于网络欺诈。不过好在,科技之树还在不断成长,图像检测AI让我们有了应对之法。只要人工智能的发展保持均衡,假照片这样的技术应该不会真正流行起来,成为大规模的社会问题。
所以,大家大可放心,总有一天,图像检测AI会进一步提高,成为打击假照片的有力武器,为我们筑起安全防线。人工智能时代,人与机器的较量才刚刚开始,AI图片的威胁,定会被AI机器自己化解。
AI已然成为这个世界上最棒的魔术师,也将是揭穿魔术的最佳助手。
但指望肉眼,请放弃这个幻想吧!