中新社北京9月3日电 (记者 王恩博)中国证监会科技监管局局长姚前3日在北京表示,算法在改善经济运行效率同时亦隐藏风险,加强监管是必然之举。
姚前当天在服贸会金融服务专题展期间举行的2021中国国际金融科技论坛上如是说。
他表示,近年来随着云计算、大数据、人工智能、区块链等创新技术发展应用,数据作为生产要素的价值日益体现,算法在经济活动中的重要性日趋凸显。例如,算法拓展了互联网经济的深度与广度,且出现了以算法为核心的新型经济模式。
不过,在算法经济渗透力、影响力越来越强的同时,其背后隐藏的风险和作恶可能亦引起关注。
算法滥用是其一。姚前说,算法规则的背后是商业利益,为了追求利益最大化,算法有可能违背社会公平、道德和人心。比如其滥用人性弱点、诱导客户,使人习惯被“喂养”,不自觉地对算法推送的商品上瘾,将人“异化”为简单的数据、商品和工具。
算法偏见是其二。“算法数据不一定全面,片面数据得到的结果必然导致某种偏见”,姚前提醒,算法的设计者是人,算法设计师乃至企业管理者价值观偏见可能被嵌入算法。
他进一步指出,在特定领域算法还可能引致特定危险,比如智能投顾领域金融算法给出的资产配置组合有可能推荐与金融机构自身利益高度相关的商品,涉嫌利益侵占。
在资管新规相关规定中,中国官方已提出要避免智能算法的顺周期风险、羊群效应等。姚前强调,考虑到智能算法生态规模趋大,其潜在风险不容忽视,中国算法监管制度正逐步健全,具体内容还有待完善。“加强算法监管,以监管科技应对新型科技,既是顺应之策又是必然之举。”