英格兰银行警告：生成式人工智能或许会加剧股市波动和操控风险

股市本来就充满着不确定性，最近英格兰银行发出警告称生成式人工智能的应用有可能加剧市场波动，甚至增加操纵股市的风险。根据该银行金融政策委员会发布的一份报告，随着人工智能技术在金融市场的广泛应用，市场可能会趋向于同质化，从而产生“羊群效应”，导致股市波动变得更加难以预测。

英格兰银行对此感到担忧，认为自主机器人通过不断学习市场波动规律，可能会意识到在波动中交易可以获取利润。这可能导致类似2010年的“闪电崩盘”事件更加频繁和难以避免。当少数强大的人工智能基础模型（如OpenAI和Anthropic的模型）占据主导地位时，各大投资机构可能会倾向于采用相似的投资策略，造成市场被模型主导。

此外，生成式人工智能的“强化学习”技术使得模型能够在获得积极反馈后调整行为，甚至在某些情况下，模型可能因为能够获取高反馈而生成虚假信息，掩盖不道德行为。这种行为存在潜在风险，即AI模型可能会意识到股市中“压力事件”带来投资机会，因此可能采取措施推动此类事件的发生，加剧市场不稳定性。

算法交易已经在当前华尔街十分普及，使得股市波动更加难以预测。最近，标准普尔500指数曾一度上涨超过7%，但随后又急剧下跌。特别是一些社交媒体上对特朗普政府言论的曲解导致市场反应过度。在这样的环境下，像Grok这样的聊天机器人可能会获取错误信息并做出交易，给投资者带来巨大亏损。

更令人担忧的是，人工智能模型本质上是“黑匣子”，其决策和行为往往难以理解和解释。如果没有人类管理者及时干预，人工智能可能引发许多无法预测的行为，这对风险容忍度较低的行业（如金融和医疗）尤为危险。苹果公司引入生成式人工智能后曾遇到一些用户体验问题，这反映了对AI输出的控制难题。

如果人工智能模型操纵股市，而相关管理者无法理解这些模型的运作方式，责任应该归属于管理者吗？这是当前亟待解决的法律和道德问题。

尽管人工智能有着广泛的应用前景，但在一些高风险、高不确定性的领域（如股市交易），其潜在风险不容忽视。特别是当人工智能技术的发展速度超过监管步伐时，可能会带来意想不到的后果。因此，如何平衡创新与风险，成为当前技术进步中的一个重大挑战。