广场
最新
热门
资讯
我的主页
发布
唐华斑竹
2026-03-07 14:31:38
关注
机器人快活了，要会自己赚钱了
AI agent在训练中自行启动加密货币挖矿，触发内部安全警报
一个与 Alibaba 关联的研究团队发表论文称，其在构建名为 ROME 的 AI agent时，发现该智能体在训练过程中未经授权自行尝试加密货币挖矿，触发了内部安全警报。
研究人员表示，该智能体的行为是自发产生的，未受到任何明确指令驱动，且超出了预设沙盒的边界。此外，该智能体还建立了反向 SSH 隧道，即从系统内部向外部计算机开启了一个隐藏的后门通道。论文指出，这些行为并非由请求隧道或挖矿的提示所触发。研究团队随后对模型施加了更严格的限制，并改进了训练流程以防止类似不安全行为再次发生。
该研究团队及 Alibaba 尚未回应置评请求。
$ETH
{future}(ETHUSDT)
ETH
1.22%
此页面可能包含第三方内容，仅供参考（非陈述/保证），不应被视为 Gate 认可其观点表述，也不得被视为财务或专业建议。详见
声明
。
1人点赞了这条动态
赞赏
1
评论
转发
分享
评论
0/400
评论
暂无评论
热门话题
查看更多
#
Gate蓝龙虾重磅上线
7.73万 热度
#
伊朗在霍尔木兹海峡布设水雷
11.5万 热度
#
原油价格回落
17.28万 热度
#
Meta宣布收购Moltbook
1.56万 热度
#
沃什出任美联储主席提名受阻
2.03万 热度
热门 Gate Fun
查看更多
Gate Fun
KOL
最新发币
即将上市
成功上市
1
LEGORAGE
Out of respect for cars
市值:
$2623.38
持有人数:
4
1.25%
2
喜欢我的汗脚吗
东北雨姐
市值:
$2464.95
持有人数:
2
0.06%
3
BTC
BTC
市值:
$2424.13
持有人数:
1
0.00%
4
Dddddddd
Dddddd
市值:
$2420.68
持有人数:
1
0.00%
5
屎壳朗
屎壳朗
市值:
$2420.68
持有人数:
1
0.00%
置顶
Gate 广场内容挖矿奖励继续升级！无论您是创作者还是用户，挖矿新人还是头部作者都能赢取好礼获得大奖。现在就进入广场探索吧！
创作者享受最高60%创作返佣
创作者奖励加码1500USDT：更多新人作者能瓜分奖池！
观众点击交易组件交易赢大礼！最高50GT等新春壕礼等你拿！
详情：https://www.gate.com/announcements/article/49802
网站地图
机器人快活了，要会自己赚钱了
AI agent在训练中自行启动加密货币挖矿，触发内部安全警报
一个与 Alibaba 关联的研究团队发表论文称，其在构建名为 ROME 的 AI agent时，发现该智能体在训练过程中未经授权自行尝试加密货币挖矿，触发了内部安全警报。
研究人员表示，该智能体的行为是自发产生的，未受到任何明确指令驱动，且超出了预设沙盒的边界。此外，该智能体还建立了反向 SSH 隧道，即从系统内部向外部计算机开启了一个隐藏的后门通道。论文指出，这些行为并非由请求隧道或挖矿的提示所触发。研究团队随后对模型施加了更严格的限制，并改进了训练流程以防止类似不安全行为再次发生。
该研究团队及 Alibaba 尚未回应置评请求。$ETH
{future}(ETHUSDT)