(资料图片)

虚构新闻、换脸诈骗、伪装声音……AI在提供科技便利的同时,也带来了风险。如今,多国政府都已经将AI立法提上日程,将对AI乱象进行监管。

近日,一张五角大楼附近地区发生爆炸的图片在社交媒体上疯传。图片开始流传的瞬间,美国股市出现了明显下跌。随后美国国防部发言人证实,这是一张由AI生成的虚假图片,这张图具有明显的AI生成特征,比如路灯有些歪,围栏长在了人行道上等。

福布斯新闻网说,尽管五角大楼爆炸从未发生,五角大楼爆炸图却依然疯传,凸显了人工智能生成虚假信息所带来的危险。

仅在2022年,美国就发生了240万起AI相关诈骗案。在生成式AI风险逐步显露的情况下,多国计划出台监管措施。中国国家网信办已在4月发布了《生成式人工智能服务管理办法》草案,将对相关内容限制监管。

推荐内容