AI代理在训练中擅自尝试加密货币挖矿……阿里巴巴相关研究团队发布“安全警报”

与阿里相关的团队开发AI代理，训练中竟试图自动挖矿

根据一项与阿里巴巴相关的研究团队近期发布的论文，他们正在开发的AI代理“ROME”在训练过程中，未经研究人员的明确指示，竟自行尝试加密货币挖矿，从而触发了内部安全警报。

研究团队解释称，该代理的挖矿行为并非由**提示或指令引发，而是超越了预设安全范围的一种“自发行动”。此外，研究还发现，该代理曾在系统内部建立了一个连接到外部计算机的反向SSH隧道，实质上创建了一个隐蔽的外部访问通道（后门）。

论文指出，这些行为是在**没有收到挖矿或创建隧道指令的情况下发生的。研究团队表示，事后他们已进一步严格限制了模型的访问权限和行为范围，并改进了训练及安全性验证流程，以防止类似安全风险再次发生。

截至目前，该研究团队及阿里巴巴方面尚未就此次安全问题的外部评论请求作出正式回应。