编辑：马星
首发平台：AI之星网
为确保先进的人工智能系统与人类价值观的正确对齐，AI安全领域需要重视社会科学家的参与。人类的理性、情感和偏见等心理学因素的众多不确定性，只有通过实证实验才能有效解决。因此，要训练人工智能以迎合人类的需求，首先必须深入研究人类本身。
长远来看，人工智能安全的一个主要目标是确保这些系统可靠地与人类的价值观保持一致，这意味着它们能够可靠地执行人类所期望的行为。人类价值观的概念较为复杂，涉及人们在面对不同选择时的偏好，并考虑群体间的差异。然而，精确表述人类价值观的规则非常困难，因此我们可以将人类价值观的对齐视为一种学习问题。我们可以通过向人类提出大量问题，来训练机器学习模型以优化AI系统的设计，使其更符合所学得的价值观。
遗憾的是，由于人类的知识和推理能力有限，且存在多种认知和伦理偏见，简单的问答可能无法产生高质量的结果。不同的提问方式可能会通过各种偏见影响结果质量，直接询问偏好的问题未必能得到准确的答案，而探讨背后推理的提问方式或许更能获得深刻的洞察。因此，促进AI安全研究的进程，亟需在AI对齐的研究中加入社会科学的方法和视角。
当前的AI安全研究往往集中于视频游戏、机器人等简单任务，但对于人类侧的许多问题，往往只有在更为真实的场景下才能显现出来。为了克服现有机器学习的限制，可以进行全由人类参与的实验，将人工智能智能代理替换为人类参与者，借此探讨AI与人类之间的关系。这样的实验不仅基于机器学习算法的灵感，简单而有效地推动相关知识的积累。
大多数AI安全研究者专注于机器学习，而我们认为，在开展此类实验时，社会科学家的介入至关重要。他们在认知、行为与伦理方面的经验，可以为实验设计提供严谨和细致的指导。社会科学领域广泛的知识也为AI安全研究带来许多潜在的交叉合作机会，实验心理学、认知科学、经济学、政治学和社会心理学，甚至神经科学与法律等相关领域的研究均可为此提供有价值的洞见。
本文呼吁社会科学家对AI安全问题进行深入研究。与机器学习研究者的紧密合作将是提高我们对AI对齐人性化理解的重要途径。这一新兴领域虽然面临诸多不确定性和挑战，但我们坚信，通过跨学科的合作，我们可以逐步改善自身在AI对人类价值观对齐过程中的理解。
即使我们无法对所有问题给出明确的答案，承认某些问题的认知局限性已然是一个积极的第一步。尽管我们面对的是复杂的任务，但一旦人类更好地理解自身的决策过程，AI也将更有可能成功地反映出我们共同认可的价值观。通过增强实验设计，充分利用社会科学的实证数据，AI安全的长远发展将更具前瞻性与安全性。
总之，AI安全研究迫切需要社会科学家的加入，只有通过跨领域的合作，才能迎接应对挑战的未来。我们鼓励广大社会科学家与AI安全研究者展开对话与合作，共同参与这一重塑未来的重要事业。
[AI之星网出品] [AI安全] [社会科学] [人类价值观] [跨学科合作]
大多数AI安全研究者专注于短期风险让我想起了老话说的一口吃不成胖子搞技术的朋友们别着急慢慢来