叫做Tay,设定的性别是女性,一个聊天机器人。”
张然摇了摇头:“怎么说?”
“刚刚亮相时,Tay表现得彬彬有礼,她活泼健谈,会观察聊天对象的昵称、性别、爱好以及感情状态等资料,会陪你玩游戏,给你讲笑话,评论你的自拍等等。她还会学习网络上的流行语言。连接主义人工智能,是会学习的。”
“但很快,Tay在网友的调教下开始出言不逊、脏话不断,甚至涉及种族主义和色情内容。毕竟网络上有大量的相关内容。”
“她的开发人员,不知道应该如何修改她,只能够将其强行关闭。这就是连接主义带来黑箱与不确定性。”
“这样啊……”张然又喝了一口咖啡。
林秋月道:“然而这只是黑箱的第一步,还有更大的黑箱!”
“你有没有想过,如果两个会学习的聊天机器人,自己和自己聊天,自我学习,会发生什么呢?”
“会发生什么?”
“它们一秒钟对话数亿次,相互学习之下,很快就会出现出我们无法理解的,莫名其妙的乱码。”
“但对这些人工智能来说,又似乎是可以理解的……它们短短几个小时,就形成了属于自己的语言系统,而人类无法理解这些语言,只能认为它是一连串的乱码。”
“我们除了把它们关闭外,没有其他的办法。这便是连接主义的风险,里边有太多的黑箱了。”
“这些新发明的语言是否真的有意义,我们并不知道,只有机器自动。”
张然愣了一下,被她说地全身上下起了一层鸡皮疙瘩,机器人居然学习自己,发展出自己的语言,听起来就有点怪异的感觉。
“你的意思是,会出现智能叛变?”
“有这样的可能……不过就目前而言,关心智能叛变等同于杞人忧天,学习能级大致可以表现为九级。”她掰出一根根纤细的手指,“第一,模仿言行。第二,会用知识。第三,会联想。第四,会剖析提炼抽象。第五,追求规律,会验证真知。第六,积累真知,形成知识体系。第七,指导实际实践。第八,预见趋势。第九,传播理论。”
“唯有完成了这九点,才是真正的强人工智能。”
“猩猩的智慧,完成了前三点。”
“我们现在的水平,还在追求第一个等级。”
“好吧……那行为主义又怎么说?”
最后一个流派是行为主义,这一派认为“智能不需要知识、表示和推理”,只要通过在现实环境中交互,不断进行反馈,智能行为会逐步得到进化。
这也是一个自下而上的过程,典型的代表有进化算法、多智能体、蚁群算法等。
西巴迪人的人工智能,也大量基于“行为主义”。
这一类的人工智能,算是可以理解的范畴,不会像神经网络那样出现大量的黑箱。
林秋月最终叹了口气:“这样说吧,第一个流派,符号主义,已经遇到了性能墙,至少我们人类的智慧不太行。光是依靠程序库,连弱人工智能都开发不了……”
“第二个流派,基于神经网络的连接主义,会出现大量的黑箱,开发出我们自己不了解的强智能,但它的潜力是最高的。高级文明也给出了极高的评价,但理论层面其实还有相当多的困难点。”
“第三个流派,行为主义,是目前比较走得通的道路,或许能开发出不高于人类的弱人工智能。西巴迪文明也有类似的机器人,它们不会失去控制。全自动万能工厂,就是基于这一理念开发的。”
“万能工厂的更新换代,需要人类自己去做。”
“又或者……三种主义的关系与其说相互冲突与排斥,倒不如说是一种互利互惠的蛇环模式,通过这样的共生与综合执行,才在一次又一次的行为训练中获得升级呢?”
张然也叹了一口气,喝完最后一口咖啡:“怎么感觉,地球的使命是创造人类;而我们人类的使命,就是制造出更强的人工智能代替自己呢?”
但不管怎么样,人工智能技术,还是要不断地向前发展,因为元宇宙时代的核心,是基于万物互联的全自动生产体系。光是追求虚拟世界的娱乐性能,只是捡了芝麻,丢了西瓜罢了。
……
请收藏:https://m.69sb.cc
(温馨提示:请关闭畅读或阅读模式,否则内容无法正常显示)