给AI“复活”多上几把安全锁

“只需要52.1元,就能还原逝去亲人的容貌并和ta聊天。”《法治日报》记者调查发现,用AI“复活”逝去的人,已经发展成了一门生意。在一些电商平台上,有不少做这门生意的商家。在某电商平台,AI“复活”的商品标价从几元、几十元到上百元乃至数千元。与此同时,近年来AI换声、AI换脸等诈骗手段也越来越高级,令人担忧。

技术是把双刃剑,这在AI身上再次得以印证。就在不久前,音乐人包小柏利用AI技术在数字世界“复活”了因病去世的女儿,“女儿”还给妻子唱了生日歌,他那句“我的女儿又回来了”,引得不少人泪目。眼下,随着生成式AI技术快速发展,与逝去的亲人“再见一面”日渐成为可能。想象一下,有了AI“复活”服务,有人能够再次听到已故亲人的声音,看到他们熟悉的面庞,甚至与他们进行对话。换一种方式慰藉思念,这样的服务就如同一缕阳光,以其独特魅力吸引着消费者。

于是,有人瞅准了AI“复活”背后的商机、念起生意经。更有业内人士分析,从庞大的市场需求看,其未来或将成万亿市场。有需求就有市场。无论是抚慰人心之痛,宽宥无解之憾,还是促成“在线团圆”,AI“复活”之所以生意火爆,说到底都是一个“情”字使然。从古代的祭祀、墓葬到现代的摄影、录像,人类在历史长河中总是试图通过各种方式留住逝去的人和事。AI“复活”亦是如此,很大程度上属于一种情感消费。正因为有此需求,AI“复活”服务才能订单不断、引来商家加快入局,带来的市场需求、消费潜力不容忽视。

然而,AI“复活”也备受争议。有人认为这是对逝者的不尊重;有人害怕因此陷入更深的痛苦;有人质疑模糊“生死界限”带来的规则与伦理风险;有人担忧隐私泄露、信息安全。且不说已有通过AI换脸实施诈骗的现实案例,当“复活”逝者越来越简单,该如何确保逝者信息被安全合理使用?正如有人所言,技术是“最好的工具”,同时是“最差的主人”。确实,技术向善也能为恶,关键看人类这个“主人”。拿AI“复活”来说,我们要当好主人、用好技术,既需要对新技术、新应用保持理性客观、审慎包容的态度,还需要妥善解决如何保护用户隐私、确保数据安全、数字亲人权益保障等诸多问题。

从市场生命周期看,目前AI“复活”整体上还处于初步探索阶段,仍面临技术受限、素材缺乏等局限。但也要看到,“复活”逝者的技术“魔盒”既已被打开,就难被关上。此时要发展,就亟需为它立好规矩、上几把“安全锁”。从市场规范角度,要避免AI“复活”无序发展、沦为圈钱游戏;从权益保护角度,应尽快完善相关标准与规范,以法律法规为AI技术应用厘明边界、予以规制;从监督管理角度,有关部门要加强协同,完善全产业链监管,让市场参与者安心、消费者放心;从行业发展角度,行业协会可以牵头制定行业伦理标准,引导企业和从业者加强自律。各方协力、多管齐下,方能让AI“复活”为人所善用,真正为生活注入温情,而非制造麻烦。 (张冬梅)