沈向洋对话图灵奖- AI治理 挑战与机遇

7月4日，2024世界人工智能大会暨人工智能全球治理高级别会议召开，在全球治理图灵圆桌环节，原微软执行副总裁、美国国家工程院外籍院士沈向洋对话三位图灵奖得主罗杰·瑞迪、曼纽尔·布卢姆、姚期智。

谈及对AI的观点与担忧，罗杰·瑞迪表示，自己感到惊喜和高兴。一方面，大家开始关注AI治理的风险和安全问题，但具体的研究方向和投资方向尚不明确。正如联合国发言人提到的“能力建设”，AI可以帮助每个人提升工作效率。

罗杰·瑞迪认为，新技术带来机遇的同时也会带来问题，但不能因噎废食。未来，AI将使全球生产效率提升10倍，GDP也将实现10倍增长，从100万亿增长到1000万亿。

曼纽尔·布卢姆过去几年专注研究AI意识问题，他与雷诺尔·布朗共同创立了“有意识的图灵机（CTM）”模型。该模型模拟人脑中超过1000亿个神经元和处理器协同工作的方式。

姚期智认为AI风险主要来自三个方面：一是网络风险的延伸和扩大，AI的出现会放大传统数据和网络安全风险；二是没有意识到的社会风险，例如AI的强大能力可能在短时间内颠覆现有社会结构，并带来大规模失业；三是生存或存在的风险。

姚期智表示，解决这些风险需要政府、律师、经济学家等各界专家共同参与。在他看来，AI相当于网络风险的放大器，其风险与计算能力密切相关。目前的算力已经能够解决许多过去无法解决的问题，但也令人担忧。行业需要在控制AI发展方向和防止AI造成破坏之间找到平衡点，但这并非易事。