常识感

504次阅读
没有评论

【2022-05-29】

@whigzhou: AI 的当前状况是,在它弄对的地方,可以对的很高级,而在它弄错的地方,往往错的很低级,

这其实是缺乏常识感的一种表现,类似情况在不同程度上在人类中也可以看到,比如常有一些领域顶尖专家,当他越出自己专业领域谈论其他事情时,往往表现的极度无知和愚蠢,

这个困难不容易克服,像人类这样层次丰富、面相多元的常识感是很难建立的,不仅需要一个完整的成长经历,一套良好的通识教育,还需要健全的动机与激励系统,因为许多常识是无法被动习得的,需要主动探索和尝试,而探索尝试需要动机,而从探索尝试中习得有用经验需要恰当激励与反馈,为AI系统设定这样的学习情境很不容易,当前研究者可能还不知道如何下手,门都还没摸到,

而且这种探索性学习还需要某种元认知能力,就是能不断对自己的学习经历进行反思,时不时 jump out of box,

路还很长,

Read More 

正文完
可以使用微信扫码关注公众号(ID:xzluomor)
post-qrcode
 
评论(没有评论)
Generated by Feedzy