米兰体育 真相机器：在 AI 语言模型中综合准确性

引用

Munn L、Magee L 和 Arora V (2023) 真理机器：在 AI 语言模型中综合准确性。人工智能与社会。 https://doi.org/10.1007/s00146-023-01756-4

摘要
随着人工智能技术推广到医疗保健、学术界、人力资源、法律和众多其他领域，它们成为事实上的真理仲裁者。但真理是备受争议的，有许多不同的定义和方法。本文讨论了人工智能系统中追求真理的斗争以及迄今为止的普遍反应。然后，它研究了大型语言模型 InstructGPT 中真相的产生，强调了数据收集、模型架构和社会反馈机制如何将对准确性的不同理解交织在一起。它将这种表现概念化为真理的操作化，其中不同的、经常相互冲突的主张被顺利地综合并自信地呈现为真理陈述。我们认为，这些相同的逻辑和不一致之处也出现在 Instruct 的继任者 ChatGPT 中，重申真理是一个不平凡的问题。我们认为，丰富社会性和增厚“现实”是增强未来语言模型真实评估能力的两个有希望的载体。然而，我们的结论是退后一步，将人工智能说真话视为一种社会实践：作为听众，我们想要什么样的“真相”？

关键字
诚实；真实性；人工智能;大语言模型； GPT-3；指导GPT；聊天GPT

期刊
人工智能与社会

• 已发布版本