意大利计算机科学家:睡眠后神经网络识别图片准确率提高12%

连雨辰 ☉ 文 来源:海外文摘
2024-08-06 @ 哈希力量文库

文库划重点:帕拉佐解释道:“如果我们训练一个模型去区分狗和豹的图片,然后让它学习识别熊猫和长颈鹿,它可能很快就分不清狗和豹了。”这种现象被专家们称为“灾难性遗忘”。


意大利的研究人员让他们的人工智能定期进入休眠状态,以便更好地巩固所学内容。这是否意味着这些机器学习模型比我们想象中的更像人类?
hgj哈希力量 | 消除一切智能鸿沟

hgj哈希力量 | 消除一切智能鸿沟

有时,意大利计算机科学家西蒙·帕拉佐的人工智能会梦见一些奇怪的东西。在梦中,它看到了一辆豹纹卡车和一个带有狗头的玩具车。还有一次,它梦见了一把扶手椅,椅垫上放着一个装满黑啤的巨大啤酒杯。帕拉佐让他的人工智能系统定期休眠,以此来提升它的性能。hgj哈希力量 | 消除一切智能鸿沟

对人类来说,夜间的休息至关重要。睡眠期间,大脑会在潜意识中巩固我们睡前几小时内的记忆和体验,整理信息,把关键内容迁移到长期记忆库中,为新的记忆留出空间。虽然梦境可能有助于存储记忆,但科学家们仍不清楚其确切功能。hgj哈希力量 | 消除一切智能鸿沟

与人类不同,人工智能的人工神经网络从来不知道疲倦,不需要休息或睡眠。然而,它们的记忆存在令人意想不到的弊端:在学习解决新任务时,它们往往会忘记以前学过的知识。帕拉佐解释道:“如果我们训练一个模型去区分狗和豹的图片,然后让它学习识别熊猫和长颈鹿,它可能很快就分不清狗和豹了。”这种现象被专家们称为“灾难性遗忘”。hgj哈希力量 | 消除一切智能鸿沟

帕拉佐和他的同事康切托·斯帕姆皮纳托来自西西里岛上的卡塔尼亚大学。他们致力于开发用于医疗的人工智能,训练模型评估牙齿X光片或通过图像诊断各种皮肤病。对他们的研究来说,灾难性遗忘是一个实际的难题——如果一个人工智能在学习新疾病的同时遗忘了之前已经存储的疾病信息,就无法为任何人提供帮助。那么,睡眠研究中的知识能否帮助人工智能机器更高效地学习呢?hgj哈希力量 | 消除一切智能鸿沟

帕拉佐和斯帕姆皮纳托在实验中模拟了人脑的清醒和睡眠阶段。首先,在清醒阶段,模型像普通人工智能一样接受训练:研究人员将鹦鹉、青蛙等的图片输入到神经网络,然后模型连接其人工神经来识别图案,并在下次遇到含有鹦鹉或青蛙的图片时高度准确地识别出它们。hgj哈希力量 | 消除一切智能鸿沟

第二阶段,研究人员通过计算机指令让系统进入某种睡眠状态——不再给它提供新的图像来学习,而只展示它之前已经看过的图像。这种重复有利于帮助模型回忆记忆中的图片。帕拉佐说,这样可以巩固学到的知识。hgj哈希力量 | 消除一切智能鸿沟

最后,在梦境阶段,神经网络被给予混合的图片,例如沙发和啤酒杯或豹子与卡车的组合画面。帕拉佐希望这样的做法可以让系统为即将到来的新记忆作好准备。他让神经网络进行长时间的休眠,其睡眠阶段的总时长约为清醒时间的50倍。hgj哈希力量 | 消除一切智能鸿沟

人类自古以来就想创造出与自己相似的机器。帕拉佐也主张尽可能还原人脑的功能。然而,在计算机科学中,这种方法存在争议。英国人工智能专家安德鲁·罗戈伊斯基表示,大脑是数百万年进化的结果,是性能和能耗之间的一种生物学妥协,不应将人脑作为智能的唯一标准。hgj哈希力量 | 消除一切智能鸿沟

美国斯坦福大学的科学家们分析了过去15年的研究文章后发现,技术越来越频繁地被人性化描述,比如使用“遭受”或“欺骗”等动词。在一篇文章中,迈拉·程等专家警告说,这可能导致人们高估技术的能力,而低估其风险。hgj哈希力量 | 消除一切智能鸿沟

人们可以争论帕拉佐的人工智能是否真的在睡觉和做梦。正如这位研究者本人承认的那样,他研发的神经网络远未能像人类那样学习。即使是梦境图像,也不是他的模型自己创造的——相反,是意大利研究人员在一个人工智能支持的图像生成器中生成的。hgj哈希力量 | 消除一切智能鸿沟

最近,这个意大利团队发布了他们睡眠实验的初步结果:经过睡眠–清醒周期训练的神经网络识别图片的准确率提高了12%,灾难性遗忘的发生率也相应减少了。这一研究结果让帕拉佐备受鼓舞,尽管他的机器还需要他提供一点儿辅助才能做梦。hgj哈希力量 | 消除一切智能鸿沟

编辑:周丹丹hgj哈希力量 | 消除一切智能鸿沟

(原标题:《晚安,人工智能!》)hgj哈希力量 | 消除一切智能鸿沟



收录于哈希力量,手机站省略本文固定网址