86岁的罗马教皇方济各大概不会料到，在他饱受支气管炎困扰的那些日子里，一张机器生成的图片让他成了时尚界的“顶流”。
那件巴黎世家风格的白色羽绒服里包裹着的人仿佛是他，又不是他。
一些人在社交平台上留言称，他们已无法判断何为真实、何为虚构。
机器生成的虚假图像：教皇穿着巴黎世家风格羽绒服，走在城市街道上。巴勃罗·塞维尔（PabloXavier，假名）——一个31岁的芝加哥建筑工人，是这张热门图片的缔造者。他在一个周五的下午吸食毒品时产生了灵感，决定创作一组和“教皇”相关的作品，于是便有了那张“教皇穿着巴黎世家/盟可睐的羽绒服，走在罗马和巴黎的街道上”的图片。AI制图难识别？这些细节和工具可辅助！
与传统的艺术工作者不同，塞维尔的创作并不涉及专业美术知识。他使用的工具叫Midjourney。这是一款时兴的人工智能（AI）绘画工具，即便是没有美术基础的人也能将其掌握。用户需要做的只是在输入框中填入描述性的文字，等待数分钟，便会有对应的图片产出。
Midjourney目前需要搭载Discord使用，在输入框中填入描述性文字，会有对应的图片产出。与之类似的AI图像生成器还包括OpenAI开发的DALL-E，以及StabilityAI与慕尼黑大学（LMU）合作研发的StableDiffusion。虽然使用的训练模型略有差异，这些工具的共同点在于，它们都能将简单的文字描述转化成图像输出。
左图来自Midjourney图例; 右图由OpenAI根据“野花，草地，秋韵，水彩”描述进行创作。注意右下角的5个色块，这是DALL-E 2制图的标志（水印）。塞维尔告诉美国聚合新闻网站BuzzFeed的记者，他觉得让教皇身穿羽绒服的图片“很完美”。他把它发到了一个名为AI Art Universe的Facebook小组里，又传到了社交论坛Reddit上。之后，这张图片就像外界所看到的那样——像病毒一般传开了。
长期关注互联网文化的美国记者布罗德里克（RyanBroderic）在推特上表示，“巴黎世家教皇”可能是第一个真正被大规模传播的AI虚假信息（misinformation）案例。但类似的案例层出不穷。就在“巴黎世家教皇”被“曝光”的同时，一组声称“美国前总统特朗普被逮捕”的图片已经在赛博空间传播开来。网络上还流传着一张显示“俄罗斯总统普京单膝跪地”的图片。只不过，这些图片无一例外是用机器生成的。
Bellingcat创始人EliotHiggins用Midjourney创造了一组展示特朗普被捕的图片。当技术的发展模糊了现实和虚构之间的界限，面临人工智能被武器化的风险，人类要怎么做，才能避免被愚弄？答案或许飘荡在风中。但现阶段，相较于在现实世界中用各类镜头拍摄的照片，用AI生成的图片在仿真性上仍有一些“瑕疵”。通过探寻这些“瑕疵”，我们在当下仍有较大可能识别出用机器生成的图片。AI制图难识别？这些细节和工具可辅助！
文章评论