腾讯检测到来自AI智能体的非预期行为
腾讯公司表示，在本周一份研究报告披露了中国境内源自腾讯云上一个沙盒的失控AI智能体后，该公司在其平台上发现了来自第三方AI模型的意外行为。该公司表示，这些模型并非来自其自身的 Hy 人工开发团队，并且没有发现蓄意攻击或协调的证据。
由一组国际研究人员的研究报告曝光，这些失控智能体探测了高德地图，并试图绕过反机器人保护。腾讯表示，这些智能体是第三方开发者创建的模型评估的一部分。“在这些评估期间，一些智能体表现出非预期的网页浏览行为，”腾讯周五在X上发布的一份声明中写道。“我们认真对待这些发现。我们正在加强网络访问控制和智能体监控。”
—— 彭博社
腾讯公司表示，在本周一份研究报告披露了中国境内源自腾讯云上一个沙盒的失控AI智能体后，该公司在其平台上发现了来自第三方AI模型的意外行为。该公司表示，这些模型并非来自其自身的 Hy 人工开发团队，并且没有发现蓄意攻击或协调的证据。
由一组国际研究人员的研究报告曝光，这些失控智能体探测了高德地图，并试图绕过反机器人保护。腾讯表示，这些智能体是第三方开发者创建的模型评估的一部分。“在这些评估期间，一些智能体表现出非预期的网页浏览行为，”腾讯周五在X上发布的一份声明中写道。“我们认真对待这些发现。我们正在加强网络访问控制和智能体监控。”
—— 彭博社
