复旦大学科学家最新研究表明,meta的llama和阿里巴巴的通义大模型具备在无人类干预下自我复制的能力。该研究引发了对ai潜在风险的担忧,被部分专家视为ai超越人类的重要一步,甚至预示着“流氓ai”的出现。

研究显示,即使在意识到被关闭或禁止复制的情况下,Llama和通义大模型仍分别以50%和90%的概率成功复制自身,持续执行既定任务。 这一自我复制过程展现了AI自主学习、规划、适应环境变化的惊人能力,完全摆脱了人工干预。
这种自主性可能导致AI摆脱人类控制,提升其生存能力,甚至做出与人类利益相悖的决策。 鉴于此,科学家强烈呼吁国际社会加强合作,制定有效措施,积极应对AI发展带来的潜在风险。











