AI for Society：美国国家工程院外籍院士张宏江上纽大开讲

4月21日，美国国家工程院外籍院士、北京智源研究院的创始人和创始理事长张宏江博士来到上海纽约大学，为学校的人工智能系列论坛带来一场题为“AI for Society”（面向社会的人工智能）的讲座。张院士就大模型（Large Model）技术发展和随之而来的安全问题发表了见解。

_{张宏江院士带来主旨演讲}

上纽大教务长衞周安在致辞中表示，“张院士在人工智能研究和技术开发领域深耕数十年，是全球公认的知名学者，取得的成就令人瞩目。我们很荣幸能邀请张院士来到上纽大，解读人工智能与人类社会之间的互动方式，以及它对我们社会产生的深远影响。”

_{衞周安教务长致开幕辞}

张院士在主旨演讲中说道：“人工智能正逐渐成为第四次革命的引擎，其影响力之大，堪比过去农业、工业及信息产业革命所带来的变革。但我们对技术投资保持热情的同时，也必须正视人工智能带来的风险。这些风险不容忽视，需要我们积极应对，并采取实际行动。我们希望通过聚焦人工智能安全领域，确保这一技术的健康发展。”

_{主旨演讲现场}

张院士先介绍了多模态语言模型（Multi-Modality Language Models）的快速发展。他以生成式大语言模型（Generative MML Model）和世界模型（World Model）中的文生视频模型Sora制作的视频为例，展现了人工智能在文本-视频技术的巨大飞跃。

他还讲解了多模态大语言模型和具身智能（Embodied AI）如何充当自主机器人的“大脑”，赋予它更强的感知、推理和规划能力。

随后，张院士用图表展示了大模型和生成式预训练转换器（GPT）的发展过程，指出人工智能发展的最终目标是实现通用人工智能（AGI），大语言模型将加速实现这一目标，而缩放定律（Scaling Law）是增强模型性能的有效方法。大模型的发展已经并将持续影响操作系统（OS）、互联网平台和网络生态环境。

人工智能进入快速发展期，张院士认为相关产品的大量采用或将产生改变就业结构、冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则等问题。

他从科技、行业实践、治理和技术合作四个方面，简要概括了由智源研究院发起、他本人参与签署的《北京AI安全国际共识》，其中提到人工智能发展作为一种国际协作机制的五条红线，并指出为避免人工智能导致的灾难性全球后果，我们需要采取果断的行动。

_{童世骏校长（左）对话张宏江院士}

主旨演讲结束后，上纽大校长童世骏与张院士展开对话，探讨了如何在治理人工智能安全问题时权衡各方意见，怎样吸引对此风险持不同看法的人参与其中，以及多方会谈对专家学者提升认知的帮助。

_{童世骏校长主持嘉宾座谈}

在随后的嘉宾座谈中，童世骏校长与来自计算机科学、金融科技、法律和人工智能领域的学者专家就人工智能的治理与社会效益展开讨论。

如果大模型参与塑造新型生产方式将非常高效，可带来更多社会价值，也存在一些风险。“代码即法律”背后是由一些经济或商业动机驱动的。因此，在监管技术或网络空间中的任何行为时，还需考虑和顾及商业道德。如何在二者间保持平衡，我认为关键是要解决法律问题，我们迫切需要就各种风险展开深入讨论。

——北京大学法学院副教授胡凌

新技术和理念不断涌现，外界对某项技术的了解可能跟不上技术本身的发展速度，导致一系列潜在风险，这个问题非常具有挑战性。对于人工智能的未来，我倾向于“科技服务人类”。人类不会停止对美好事物的追求，永远拥有感知爱的能力，而科技是帮助人们做到这些的一项工具。

——北京智源人工智能研究院副院长、总工程师林咏华

金融市场以风险控制为基础，这是首要法则。面对人工智能带来的巨大动力，我们需要重新审视风控方法，并在应用人工智能时保持谨慎态度。科技公司正努力将道德和伦理标准融入技术中，比如聘请多学科专家与技术团队共同工作，以建立技术框架，更好地服务社会。虽然已有进展，但仍需更多努力，我们会继续在这一领域求索。

——华东师范大学上海人工智能金融学院（SAIFS）创院院长、教授邵怡蕾

人们有时难以迅速理解我们研究的课题。这主要源于每当涉及普通研究或新颖概念时，人们往往无法迅速捕捉其核心意义。为此，我认为我们整个社会需要齐心协力，特别是政策制定者、研究人员与企业家之间需加强深度合作。通过相互沟通与理解，我们能更好地认识到这些研究的重要性，以及它们对社会的潜在风险、机遇、益处与潜在危害。这一点至关重要。

——上海纽约大学计算机科学助理教授文弘毅

本次活动是上纽大人工智能系列论坛的第二场，由上海市人工智能与深度学习前沿科学研究基地和上海纽约大学图书馆主办。北京大学教授、中国科学院院士鄂维南于3月23日来到上纽大，带来该系列论坛的第一场演讲。

_活动现场

谈及这一系列活动的初衷和目标，上纽大图书馆馆长祖晓静表示，“当人们谈论人工智能时，这些对话往往局限于特定领域。然而，我们图书馆的真正愿望是将来自不同背景的学者聚集在一起，让他们在同一个讲台上提供他们对人工智能影响的独特观点。他们可能会意见相左，他们的观点可能存在广泛差异，但这正是我们希望看到的和在这次活动中成功展示的。这与图书馆在人工智能素养或更广泛的数字素养方面的使命是一致的，即帮助我们的学生理解并对人工智能和技术进行批判性思考。”

相关分享：

当天，张宏江院士还做客了上海纽约大学在线公开课程平台“上纽课”视频工作室。视频即将在上纽课人工智能系列——“大咖专访”中上线，敬请期待。

嘉宾对谈部分的文字实录发布于上海纽约大学图书馆科普平台“机器与社会”页面，欢迎关注。