编辑：马青禾
科学界发现：对机器视觉的图像干扰亦能影响人类感知
全新研究揭示了一个深刻的交叉点：即使是针对人工智能（AI）视觉系统的微妙图像干扰，也可能影响人类的视觉判断。这一发现源于一项登载于《自然通讯》（Nature Communications）的研究，表明尽管人类视觉通常被视为更稳健，但也并非完全免疫于这些“对抗性扰动”的影响。这一结论既为认知科学与人工智能领域提供了重要的理论联系，也对AI安全性及与人类认知的对比研究提出了新课题。
众所周知，人类和机器在视觉处理上存在根本差异。然而，这项研究指出，两者对视觉信号的敏感性并非完全独立。在机器视觉中，“对抗性图像”指通过微小改动使AI模型对图像内容产生错误分类的手段，例如将一个花瓶误判为一只猫。这些改动小到几乎无法察觉，仅需将每个像素调整不超过0-255色阶的2个单位即可。
为了探究这些干扰对人类感知的影响，研究者们设计了一系列行为学实验。在实验中，他们向参与者展示了由原始图像经过两种不同对抗性攻击后生成的图像对，并询问参与者例如“哪一张更像猫”类的问题。尽管这些图像的改动极为微小且从表面上几乎无形，实验数据却显示人类的选择偏好显著超过随机猜测的50%，即人类视觉系统受到对抗性扰动的影响是可量化的。
研究进一步分析了这种感知影响背后的可能机制。从参与者的角度看，那些被迫选择的过程似乎更像是随意的判断。然而，大脑却可能利用了细微的视觉线索。例如，虽然人眼看到的是一只普通的花瓶，但某些微弱的视觉信号可能会激活大脑中与“猫”相关的感知活动。这表明，人类在决策过程中，比想象中更易受到视觉细节的引导。
实验还验证了对抗性扰动的多种形式。从仅调整2个像素单位的细微干扰，到更明显的16个像素单位的大幅改动，研究者均观察到了相似的感知倾向。这一现象从根本上揭示了人类和AI视觉系统之间的复杂联系：在“感知偏差”上，人类的表现也可能映射出与机器相似的模式。
研究结论不仅为认知科学领域打开了新方向，也为AI技术的安全性带来了深远启示。在机器学习的深度应用中，对抗性攻击被广泛视为潜在的安全威胁，尤其是在自动驾驶、医疗影像分析等领域。传统观点通常认为加强AI系统对抗这些攻击的能力是防范的核心思路，而新研究则表明，对抗性图像的影响可能同步扩展至人类用户。这意味着，在防护措施设计中，人类感知的脆弱性不可被忽视。
更重要的是，这项工作为更好地构建与人类视觉系统一致、稳健的AI模型提供了新思路。例如，通过进一步研究人类对对抗性扰动的敏感性，可以更精确地评估AI视觉模型与人类视觉表征的匹配度。这样的研究可能有效促成新一代对抗性攻击防御技术的出现，从而构建更加安全可靠的人工智能系统。
这项研究不仅桥接了AI与人类感知之间的学术隔阂，也提醒我们技术发展的伦理责任。当人工智能日益融入生活，其对人类认知行为可能产生的深远影响需要更加严谨的评估和理解。通过认知科学、神经科学与人工智能领域的密切合作，我们或将不仅设计出更聪明的AI，也能在推进技术的同时，为人类社会的安全与福祉保驾护航。
[AI之星网出品] [人工智能视觉系统研究] [对抗性扰动对人类视觉影响] [AI安全性与人类认知关联] [机器视觉与人类感知差异] [机器姬][真机智能][机器洞察网][AI之星网][风投高科网][猛虎财经网][硅基科学网]
对抗性扰动的研究让我明白，盯紧细节不仅是做人道理，也是算法进步秘籍！
看完只想感慨一句复杂的世界，由无数干扰和感知交织而成，研究是理解的第一步。
科学与图像解析的碰撞就是美妙不仅服务机器，还倒逼我们重新思考自己。