Anthropic 工程师谈 AI 智能体的可信度建设

据 IEEE Spectrum 近日报道，总部位于旧金山的人工智能研究公司 Anthropic 是知名 AI 助手 Claude 的开发方。对于 Claude 等智能体如何在数秒内回答复杂问题、其信息来源究竟何处，外界一直存在讨论。该公司工程师 Gurmeet Saran 的日常工作正是围绕这些问题展开。

报道指出，Saran 在 Anthropic 主要负责 AI 智能体的可信度建设。作为拥有 IEEE 相关资质的资深从业者，她与团队持续探索如何在让 AI 智能体高效给出答案的同时，保证输出内容的准确性与可靠性。

当前，大语言模型驱动的智能体已被广泛应用于各类场景，公众对其信息来源透明度和答案可信度的关注度也在持续上升。Anthropic 等前沿 AI 公司正通过工程团队建设、模型评估机制等多方面投入，来回应这些来自学术界与产业界的关切。

【空音视角】 从非接触式生命体征监测从业者的视角看，AI 智能体的可靠性问题与感知技术的可信度建设有共通之处。WiFi 感知等技术同样面临"信号来源是什么、输出结论是否可靠"的拷问，尤其在医疗健康、智慧养老等高敏感场景中，监测系统的可解释性与数据可信度直接关系到用户信任。行业正在推动从模型可解释性到端到端验证的一整套规范，这与空音在非接触监测领域坚持透明、可靠的技术路线方向一致。

—— 本文基于公开报道由空音编辑部 AI 辅助改写 来源：IEEE Spectrum 原文链接：https://spectrum.ieee.org/anthropic-engineer-ai-agent