相同的目标，不同的不稳定性：为什么 AI 架构现在很重要

欧洲央行研究人员使用强化学习系统和大型语言模型模拟金融决策。他们的主要发现并不是一种架构普遍更安全。这些架构的失败方式不同：强化学习代理的协调性很强，但可以放大类似跑步的行为，而语言模型的协调性较差，且更加异构。

这改变了验证问题。两个系统可以接收相同的数据，追求相同的目标，但由于它们的推理和交互方式，仍然会产生截然不同的系统级结果。

传统验证通常单独测试一个模型：其预测准确吗？它是否正确地对曝光进行了分类？在市场和投资组合工作流程中，更难的问题是当许多类似的系统同时响应相同的信号时会发生什么。

一致性在稳定时期可能是有效的，但在压力下是危险的。异质性可能会减少拥挤，同时使结果更难以预测。因此，架构选择成为风险偏好的一部分，而不仅仅是技术实现细节。

添加多代理和共享冲击测试来验证投资、流动性和市场风险用例。寻找相关的动作、反馈循环和突然的阈值效应——而不仅仅是平均模型性能。

记录您在选择架构时有意选择的行为。模型选择论文不仅应该解释什么表现最好，还应该解释当条件恶化时该系统如何表现。