Chat GPT热度尚未退散，一场大会又将AI大模型的注意力推向新高度。
在刚刚举办的北京智源大会上，汇聚了众多传说中的AI大佬，以张钹、张宏江为代表的国内AI最前沿领军人物，Geoffery Hinton、Yann LeCun、姚期智、Joseph Sifakis这四位图灵奖得主，Open AI创始人Sam Altman、PaLM-E和RoBERTa等AI公司高管。
因每次的智源大会秉承着专业的学术思想路线，因此在国内外人工领域内行精英圈层口碑极高，但对大众来说，却稍显高冷。而在本次大会上，Sam Altman指出为搞清楚通用AI技术的发展，Open AI必须要推进AI研究变革。
但这一说法却遭到了不少AI大佬们的反对。其中，加州伯克利分校教授斯图尔特·罗素抨击Open AI研发的Chat GPT和GPT-4没有在“回答”问题，它们不理解世界，也不是一个通用AI的发展步骤。杨立昆更是直接指出，当前的GPT自回归模型存在缺乏规划、推理的能力，未来GPT系统或将被抛弃。
除激烈的学术争论外，关于当前AI如何监管、后续AI的发展方向也成了本次会议讨论的焦点。
后续AI到底要如何监管？
进入到2023年以来，在生成式AI以势如破竹的速度席卷诸多领域的同时，由AI所引发的各种问题也在加剧外界的担忧。
在我国，“AI诈骗”成为近期社会关注的方向之一。日前，内蒙古包头警方通报一起利用AI实施诈骗的案件，福州市某公司法人代表郭先生10分钟内被骗430万元。据通报，骗子通过AI换脸和拟声技术，佯装熟人实施诈骗。无独有偶，江苏常州的小刘被骗子冒充其同学发语音、打视频电话，小刘看到“真人”后信以为真，“借”了6000元给骗子。
图源：抖音
事实上，AI诈骗案发生的背后还是和当前AI技术迅速发展，技术合成门槛持续降低有关。而从后续来看，若AI大模型技术不断突破，未来也将逐渐从面部合成转向到全身合成、3D合成技术，其合成效果也将更加逼真。
在美国，AI是否会影响选举成为当地媒体讨论的重点。据美联社报道，如今复杂的生成性AI工具能在几秒钟内“克隆”某人的声音和形象，制造出大量“假料”。只要绑定强大的社交媒体算法，AI就可以迅速锁定受众进行传播，以前所未见的规模和速度破坏选举。
美国其他媒体则预测，因美国下一任总统选举是在明年举行，不排除美国两党将使用AI技术用于宣传、筹款等活动。更重要的是，因Chat GPT在文本能力上有着卓越的表现。因此，参选者的团队仅需在几秒钟就能生成一份措辞华丽的演讲稿。
基于外界对AI的种种担忧，日前，由“AI教父”杰弗里・辛顿、Anthropic的首席执行官达里奥・阿莫代，Google Deep Mind首席执行官戴米斯・哈萨比斯等超过350位AI领域高管和专家共同签署了“减轻AI带来的灭绝风险，应该与流行病和核战争等其他社会规模的风险一起，成为全球优先事项”的联合声明。
针对后续AI如何监管的问题，Sam Altman在智源大会上指出，目前Open AI正在通过多种方式来解决这一问题。首先，早在5月26日，Open AI启动了一项激励计划，出资100万美元，向社会征集有效的AI治理方案。
其次，Sam Altman认为人类是无法发现一些恶意模型在一些邪恶的事情。目前Open AI正在投资一些新的、互补的方向，希望能够实现突破。但可扩展的监督是尝试使用AI 系统来协助人类发现其他系统缺陷，而解释能力是用GPT-4解释GPT-2神经元，虽然还有很长的路要走，但Open AI相信机器学习技术可进一步提高AI可解释能力。同时，Sam Altman也认为未来只有把模型做得更智能，更加有帮助，才能更好地实现通用AI的目标优势，进而降低AI风险。
最后，Open AI短期内虽不会推出GPT-5版本，但未来十年全球可能会拥有更强大的AI系统，全球范围内需做好提前准备。而Open AI后续对AI大模型的核心工作仍是训练，并且准备在全球建立一套数据库，以反映全球AI的价值观和偏好，即时向全球分享AI安全研究。
除Open AI自身努力外，Sam Altman也呼吁全球共同努力来完善对于AI的监管。比如说，Sam Altman指出当前中国拥有一些世界上最优秀的AI人才，考虑到解决 AI 系统对齐的困难需要来自世界各地最好的头脑。
因此，Sam Altman也希望未来中国AI研究人员能够在AI风险上做出贡献。Tegmark也认为，目前中国在人工智能的监管方面做得最多，其次则为欧洲，最后则是美国。
图源：智源大会
另外，Sam Altman也指出，全球AI监管的合作困难是有的，但这也实则是一种机遇。AI在让全世界走到一起的同时，后续也需要出台系统性的框架和安全标准。
但考虑当前全球大国和大国之间的博弈加剧，地缘冲突呈现多点式爆发，各国政府对生成式AI的态度不一，这在让全球关于AI监管的合作短时间难以落地的同时，也会影响到生成式AI公司的市场业务。
欧洲一直走在AI监管的前沿，5月份欧盟已经接近通过一项人工智能技术监管的立法，这也有望成为全球首部全面的人工智能法案，并可能成为发达经济体的先例。
欧盟委员会主席乌尔苏拉·冯德莱恩此前在接受媒体采访说曾表示，“我们希望人工智能系统准确、可靠、安全且无歧视，无论其来源如何。欧盟相关法律法规的出台，可能会让Open AI后续退出欧盟市场。因此，后续如何根据全球监管政策的调整，不断完善自家的生成式AI模型，这不仅仅是Open AI自身遇到的问题，更是全行业需不断关注的问题。
