训练”是基于普通的神经网络语言模型进行的预训练。
距离真正稳妥的基于Transformer的预训练模型在应用效率方面要差得多。
至于林灰为什么不直接搬运更成熟的基于Transformer的预训练机制呢?
原因很简单,毕竟眼下还没有Transformer,现在搞出来一个基于Transformer模型岂不是滑天下之大稽。
而至于说伊芙·卡莉同样抱有很大期待的“深度学习”。
虽然林灰确实是能鼓捣出真正意义的深度学习的。
但暂时似乎没啥必要,涉及到深度学习这个方面林灰并不打算将其放在自然语言处理这个方向推出。
至于林灰不打算将真正意义上的深度学习在自然语言处理这个方向推出,为什么在现在论文中还提到深度学习?
那是因为这个时空的几乎所有神经网络学习方面的科研人员几乎都迷之自信地将他们搞得神经网络学习冠以深度学习之名。
这样的话林灰搞得神经网络学习应用纵然实际上没那么深,不冠以深度学习之名岂不是显得低人一等?
至于说伊芙·卡莉所看中的迁移思想。
虽然长久时间线来看,迁移学习确实能做到伊芙·卡莉所期待的那样跳脱出自然语言处理的小圈子迁移到全部ML领域。
但短时间内实际上还是比较难的。
尽管有这样那样的困难,但林灰并没有打击伊芙·卡莉的积极性。
反而给伊芙·卡莉描绘出一副更加恢弘的场景。
这画饼的样子甚至让林灰想起了前世自己的领导。
不过林灰对此丝毫不愧疚,前世部门领导画的大饼只是虚无缥缈而已。
而林灰所勾勒的蓝图却一定会实现,毕竟这在前世已经验证过了。
路再长长不过脚,终有一天林灰会将其所描绘的统统实现。
而且林灰已经在朝着他所勾勒的蓝图迈进了。
林灰在此前论文中进行补充的内容虽然并没有伊芙·卡莉期许地那么强,但至少也在进步。
甚至有些进步相对于这个时空的科研现状来说很多是从0到1的。
至于伊芙·卡莉关于人工智能在社会层面的担忧。
这个林灰倒是略知一二,前世很多大牛确实都表示过这方面的忧虑。
前世斯蒂芬·霍金、比尔·盖茨、马斯克都曾表示了对人工智能会具有自我觉知和意识的忧虑。
尤其是前世霍金,更是夸张地认为人工智能可能是人类最大的灾难,如果管理不当,会思考的机器可能终结人类文明。
至于今生这些人是否发表过同样的言论,林灰没具体关注过。
反正在林灰看来,这方面的担忧或许在理论上有片面的道理,但实际上深究起来其实很离谱。
能够真正威胁人类文明的,肯定是强人工智能,不可能是弱人工智能。
涉及到弱人工智能这些不是完全没有威胁。
但和强人工智能可以由一套系统处理各种智能行为不同。
弱人工智能针对每种智能行为都需要新的独立系统。
在这种情况下即便是弱人工智能因为某种智能性造成威胁了。
人类也只需要对该行为的独立系统进行一定的安全化设计也就ok了。
讨论弱人工智能对人类的威胁还不如去考虑一下别有用心的人滥用弱人工智能导致的危害。
请收藏:https://m.hxos.cc
(温馨提示:请关闭畅读或阅读模式,否则内容无法正常显示)