题图：我们非常确定亚伯拉罕·林肯没有 iPhone，但这张由 Chat GPT 生成的图片却告诉我们并非如此。图片来源：ChatGPT

（《澳纽网》综合RNZ报道） 无论你喜欢与否，人工智能（AI）如今已无处不在。但每一项新技术的出现，总有人会利用它作恶。AI生成的图像和视频在网络上泛滥，其中许多被蓄意用于误导、诈骗或煽动愤怒情绪。作为一个非计算机或AI领域的专家，我们该如何辨别真伪？

好消息是：我们通常仍有办法分辨真实与虚假。坏消息是：这正变得越来越困难。

肉眼识别：寻找AI作品中的“蛛丝马迹”

广告 | Advertisement

在澳纽网做广告 ｜ Advertise with us

哥斯拉袭击了奥克兰市中心？对不起，这只是人工智能。图片 谷歌人工智能制造

多位AI与事实核查专家表示，尽管AI技术日新月异，但其生成的内容仍会留下一些线索。

• 对图像：

  • 关注细节： 澳大利亚联合新闻社（AAP）事实核查栏目编辑本·詹姆斯（Ben James）指出，AI在处理纹理、阴影和微小细节（尤其是文字）方面仍然存在困难。“注意看名牌、标志、路牌等元素；通常，上面的文字会是乱码或不合逻辑。”
  • 警惕“完美”： AI图像往往“过于完美”：人物皮肤光滑无暇，背景细节被完美地框住，反而显得不真实。
  • 不再是“六指人”： 专家们承认，过去常见的“六指人”等明显错误现在已基本消失。维多利亚大学AI高级讲师安德鲁·伦森（Andrew Lensen）说：“我们都曾嘲笑过2023年威尔·史密斯吃意大利面的视频或有七根手指的人，但现在的AI模型已经足够先进，这种情况基本不再发生。”

2023 年，一段由人工智能生成的威尔-史密斯吃意大利面条的怪异视频在网上疯传。图片 截图 / Reddit

• 对视频：

  • 寻找扭曲： 新西兰网络安全非营利组织Netsafe的副首席执行官安德里亚·利斯克（Andrea Leask）建议，注意观察人脸、头发和手部周围的扭曲现象。“例如，脸部和头发周围的闪烁、皮肤纹理的不一致、不自然的眼球运动或手指摆放。”
  • 检查音画同步： 人物的面部动作是否与所说的话匹配？音频听起来是否有些扭曲或像机器人？
  • 考虑内容情境： 视频中的人物谈论的话题是否不合常理？例如，去年一个伪造新西兰总理克里斯托弗·卢克森（Christopher Luxon）支持某在线交易平台的视频在网上流传，这就是一个典型的例子。

广告 | Advertisement

在澳纽网做广告 ｜ Advertise with us

侦探工具：反向搜索与AI检测器的利与弊

除了肉眼观察，还可以使用一些工具辅助判断。

• 反向图像搜索： 这是一个简单有效的办法。通过TinEye或谷歌图片搜索等工具，可以查找一张图片在网络上首次出现的位置，从而追踪到其原始版本，判断图片是否被篡改或张冠李戴。
• AI检测器： 虽然市面上存在一些AI检测工具，但专家对其长期有效性持怀疑态度。伦森教授将其形容为AI生成器与检测器之间的“军备竞赛”。“我们训练AI模型生成最逼真的内容，这意味着生成器越好，检测器的任务就越艰巨。”他认为，检测器在这场竞赛中难以获胜。

谷歌的双子座人工智能（Gemini AI）被要求生成惠灵顿古巴街（Cuba Street）的景观，这就是它的结果。虽然乍一看可能没什么问题，但仔细看看背景中的标志就知道了。照片： 谷歌人工智能制作

终极武器：批判性思维与核查信源

专家们一致认为，面对AI信息的洪流，最重要、最可靠的工具其实是我们自己的大脑和批判性思维。

• AAP事实核查的三问流程： 本·詹姆斯建议，在接触到任何信息时，先问自己三个问题：
  1. 谁在发布这个说法？
  2. 证据是什么？
  3. 可信赖的信源是怎么说的？
• 审查信息来源： 伦森教授建议，要关注信息的“出处”。“在社交媒体上，发布者是一个有合法发帖历史的账号，还是一个在不同话题上发帖异常频繁的奇怪账号？这实际上就是我们在前互联网时代所做的‘批判性思维’和信源核查。”

广告

Advertise with us

“深度伪造”的危害与法律困境

如今，仅凭一张图片或几句话就能制作出非常逼真的“深度伪造”（Deepfake）内容，其危害也日益显现。Netsafe表示，在过去一年中，与数字篡改图像相关的伤害报告显著增加。年轻人多用于取乐或欺凌，而成年人则更可能出于性满足、虐待或骚扰的动机。新西兰著名内分泌学家吉姆·曼恩爵士（Sir Jim Mann）最近震惊地发现，自己的面容和声音被AI盗用，用于向2型糖尿病患者进行诈骗。

对此，新西兰行动党议员劳拉·麦克卢尔（Laura McClure）已提出一项法案，旨在限制生成和分享色情性质的深度伪造内容。但专家对其执法效果表示担忧，尤其是在涉及跨境制作和传播的情况下。

行动党国会议员劳拉-麦克卢尔（Laura McClure）在讨论《深度伪造数字伤害和剥削法案》（Deepfake Digital Harm and Exploitation Bill）时，举起了自己的AI伪造裸照。照片： Facebook / 劳拉-麦克卢尔

如果你不幸成为受害者，利斯克建议，根据新西兰的《有害数字通信法》，如果内容被篡（数字）改，且具有辱骂、威胁、骚扰性质，或包含私密材料（如裸体、性行为等）并在未经同意的情况下被分享，那么该法案可能适用。受害者可以向Netsafe报告在线伤害以寻求帮助。

专家们最后强调，提高全社会的媒体素养，并依赖负责任的媒体机构进行事实核查，是在这个AI虚假信息时代保护自己的关键。

分类： 科技新闻

分类： 澳纽资讯

(即时多来源) 新西兰英语新闻 New Zealand English News

 7,647 views