异世之神造加强监管确保“科技向善”

异世之神造本文转自：新民晚报

异世之神造针对人工智能被恶意滥用导致的风险，博鳌亚洲论坛指出——

异世之神造加强监管确保“科技向善”

异世之神造人工智能，是本届博鳌亚洲论坛的“热词”。4天会期，有3场分论坛与人工智能相关，人工智能未来还会出现哪些突破X的进展？人类生产生活方式由此发生了哪些变革，又可能面临哪些风险？这些话题，引起嘉宾广泛关注。

异世之神造“奇点”5年后或将出现

异世之神造AI发展之快远超预期是嘉宾们的共识，这也带来了共同的疑问——“奇点”（即颠覆点）究竟何时到来？

异世之神造对此，韩国首尔大学电子与计算机工程系教授KyoungMuLee提到，2017年曾面向人工智能科学家进行过一项问卷调查，大多数受访者预测“奇点”的到来将在2045年到2090年之间，2060年最有可能出现。

异世之神造小i集团董事长兼CEO袁辉也认为，“奇点”正加速到来：“弱人工智能辅助一点人类的基本工作，强人工智能可以生成视频、生成音乐甚至生成*码。”

异世之神造AI赋能各行各业

异世之神造在技术快速迭*的同时，人工智能也开始赋能各行各业。教育行业是人工智能应用的重要领域之一。猿辅导集团副总裁、人工智能研究院院长程群分享了一个案例，在一所四川的偏远学校，学生可以直接通过和大模型产品的大屏互动获得通俗易懂的讲解，不仅缓解了师资力量问题，更激发了学习兴趣，减少了辍学率。

芬兰前总理阿霍指出，未来几十年，数千万的中国人会退休，现有的养老、商业和政府治理模式无法应对如此庞大的老龄人口，但人工智能可以最终解决这些问题。

中国工程院院士、清华大学智能产业研究院院长张亚勤认为，未来两到五年中，人工智能将在图像、视频、影音方面通过图灵测试，五年后人工智能或将通过生物界图灵测试。

谨防AI拿走人类控制权

在一些科幻电影中，人工智能最终会萌发出自我意识，试图掌控并取*人类。这样的情景会否发生？又该如何应对？

对此，美国加州大学伯克利分校计算机科学系教授、《人工智能：现*方法》作者斯图尔特·罗素认为，人类要重新思考AI，并证明AI的行为是能够使人类受益的。罗素还表示，自己十年前就曾预言通过“图灵测试”的机器会拿走人类控制权，然而这一警告在当时并未引起重视。

而在中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅认为，人类与人工智能应该“共同进化”。未来人类需要作出的改变不仅仅是把人工智能做得安全，更应该从历史、自然中学习、反思。

规则与监管必不可少

利用AI换脸、拟声技术实施诈骗案例近来被频频曝光，先进技术的“双刃剑”效应逐步显现。对此，KyoungMuLee认为规则与监管必不可少。对于大科技公司，从培训AI开始到测试再到销售，整个流程都要有监管标准。

针对人工智能可能失控或被恶意滥用所导致的风险，大会旗舰报告指出，应围绕AI发展可能遇到的法律法规问题建制度、立规矩，研究制定与人工智能相关的服务、标准、安全等规制，为人工智能技术的快速发展奠定法律基础。2023年8月15日，我国首个针对生成式人工智能产业的法律文件《生成式人工智能服务管理暂行办法》开始施行，从技术发展与治理、服务规范、监督检查和法律责任等方面，规范生成式人工智能的发展。特派记者金旻矣（本报博鳌今日电）