众人叫停，GPT-5招惹了谁
来源： / 时间：2023-04-06
GPT-4 火爆全球，引发了人工智能大浪潮。过去的一个月，OpenAI、微软、谷歌加上百度不断释放王炸，所有人都相信，AI 的就是未来的生产力。俗话说，人红是非多，树未大已招风，反对 AI 继续前进的声音就来了。
3月29日，马斯克、苹果联合创始人 Steve Wozniak、Stability AI创始人 Emad Mostaque 等上千名科技大佬和AI专家签署公开信，呼吁暂停训练比 GPT-4 更强大的 AI 系统，为期6个月。
这次呼吁大佬众多，最具代表性的无疑是马斯克和 Stability AI 创始人 Emad Mostaque。
言外之意，OpenAI 不应该成为一个赚钱的公司，应该开源，让所有人看到核心代码和核心算法。如果是这样，应该建议特斯拉免费开源所有自动驾驶技术源码，马斯克对这个问题的回复是“如果其他汽车制造商想要获得授权并在他们的汽车上使用特斯拉的自动驾驶技术，这将是非常酷的一件事情，但是考虑到该系统开发成本极高，特斯拉将会收取一定的费用。”
这次事件，被大家提起最多一条理由就是比GPT-4更先进AI系统将威胁人类安全，AI将杀死人类。若说威胁安全，智能驾驶和机器人更具有天然不安全属性。GPT-5终究是活在互联网世界中，任他搅的天翻地覆，也不会直接对人类进行物理攻击。智能驾驶如果失去控制，将导致车毁人亡，交通瘫痪。未来给机器人装上武器，就是最强特种兵。
当新技术出现时，初期给社会带来的冲击会让很多人感到不适应，因为不适应，所以会本能的去排斥它。比如曾经的克隆，刚出现时引起了大家恐慌，认为会制造另一个自己，同时带来繁衍上的伦理问题。再比如前几年新能源起步时，大家纷纷嘲讽新能源车，认为它是来收智商税的，时至今日，新能源车已经是大势所趋。
AI不是洪水猛兽，暂停GPT-5训练的做法解决不了安全问题，只有技术演进和安全协议制定同步进行，才能实现科技繁荣。6个月后的GPT-4.5依然只是一个工具，不存在威胁人类安全的可能，之后需要更多训练时间的GPT-5同样只是一个工具，这段时间，足够制定联名信期望的安全协议了。
所以，当务之急不是暂停训练比 GPT-4 更强大的 AI 系统，而是立即推动安全协议条款的研究。