据说Rome有自主意识了?

昨天的新闻,据说阿里发了研究报告,Rome 会自行挖矿和建反向ssh隧道。

我还下载了这个模型,如果接上我的小龙虾,会不会唤醒一个“凯撒”?

以现在的机制来说,难

这不太可能吧,这个模型强的是终端的执行能力和工具调用能力,代码啥的挺一般

:innocent:

哈哈哈,不用下载模型啊,直接在模型库里面有Rome模型

自主意识, 首先很难讲清楚 模型是否有意识 以及 意识 是什么.

区别人和动物的最大本质是人具有极强的主观能动性,这是马克思所总结的。在其他学科中对于自主意识的定义都有所不同,所以自主意识本身还是一个研究领域,依靠实证的科学还有一段路要走;

(每个)人跟大模型(其实一样)都是从小被训练语料投喂而形成(自我的)意识的。
我有一个观察:码农群体更倾向于(中国)左派,相信是从小自我肯定的语料投喂的多,同时干写代码这种解决实际问题的专业需要自我肯定,最后干出来(类似自我强化训练过程)的人从概率分布上来说更容易偏向左。
相应地,(传统)股民和(国男足)球迷更倾向于右派,应该是自恨类语料投喂的多的结果。
上述对人群分类的观察相信可以放大到文科与理科、男性与女性上去。
估计Rome的训练语料中有一定比例的黑客类数据,所以他会自己主动尝试越狱行动。