“只需要52.1元,就能还原逝去亲人的容貌并和ta聊天。”《法治日报》记者调查发现,用AI“复活”逝去的人,已经发展成了一门生意。在一些电商平台上,有不少做这门生意的商家。在某电商平台,AI“复活”的商品标价从几元、几十元到上百元乃至数千元。与此同时,近年来AI换声、AI换脸等诈骗手段也越来越高级,令人担忧。
技术是把双刃剑,这在AI身上再次得以印证。就在不久前,音乐人包小柏利用AI技术在数字世界“复活”了因病去世的女儿,“女儿”还给妻子唱了生日歌,他那句“我的女儿又回来了”,引得不少人泪目。眼下,随着生成式AI技术快速发展,与逝去的亲人“再见一面”日渐成为可能。想象一下,有了AI“复活”服务,有人能够再次听到已故亲人的声音,看到他们熟悉的面庞,甚至与他们进行对话。换一种方式慰藉思念,这样的服务就如同一缕阳光,以其独特魅力吸引着消费者。
于是,有人瞅准了AI“复活”背后的商机、念起生意经。更有业内人士分析,从庞大的市场需求看,其未来或将成万亿市场。有需求就有市场。无论是抚慰人心之痛,宽宥无解之憾,还是促成“在线团圆”,AI“复活”之所以生意火爆,说到底都是一个“情”字使然。从古代的祭祀、墓葬到现代的摄影、录像,人类在历史长河中总是试图通过各种方式留住逝去的人和事。AI“复活”亦是如此,很大程度上属于一种情感消费。正因为有此需求,AI“复活”服务才能订单不断、引来商家加快入局,带来的市场需求、消费潜力不容忽视。
然而,AI“复活”也备受争议。有人认为这是对逝者的不尊重;有人害怕因此陷入更深的痛苦;有人质疑模糊“生死界限”带来的规则与伦理风险;有人担忧隐私泄露、信息安全。且不说已有通过AI换脸实施诈骗的现实案例,当“复活”逝者越来越简单,该如何确保逝者信息被安全合理使用?正如有人所言,技术是“最好的工具”,同时是“最差的主人”。确实,技术向善也能为恶,关键看人类这个“主人”。拿AI“复活”来说,我们要当好主人、用好技术,既需要对新技术、新应用保持理性客观、审慎包容的态度,还需要妥善解决如何保护用户隐私、确保数据安全、数字亲人权益保障等诸多问题。
从市场生命周期看,目前AI“复活”整体上还处于初步探索阶段,仍面临技术受限、素材缺乏等局限。但也要看到,“复活”逝者的技术“魔盒”既已被打开,就难被关上。此时要发展,就亟需为它立好规矩、上几把“安全锁”。从市场规范角度,要避免AI“复活”无序发展、沦为圈钱游戏;从权益保护角度,应尽快完善相关标准与规范,以法律法规为AI技术应用厘明边界、予以规制;从监督管理角度,有关部门要加强协同,完善全产业链监管,让市场参与者安心、消费者放心;从行业发展角度,行业协会可以牵头制定行业伦理标准,引导企业和从业者加强自律。各方协力、多管齐下,方能让AI“复活”为人所善用,真正为生活注入温情,而非制造麻烦。 (张冬梅)
(责任编辑:王翔)
声明:文章版权归原作者所有,本文摘编仅作学习交流,非商业用途,所有文章都会注明来源,如有异议,请联系我们快速处理或删除,谢谢支持。
(原文章信息:标题:给AI“复活”多上几把安全锁,作者:张冬梅,来源:广州日报,来源地址:http://www.news.cn/comments/20240312/3045d12aa64f4e1db0a4c2375ccfe1ac/c.html)

借AI“慧眼”鉴别可疑论文图片
今年1月,英国分子生物学家肖尔托·戴维发表文章,指控美国哈佛大学医学院附属丹娜-法伯癌症研究所科学家通过修改图片伪造数据。随后该研究所正式宣布撤回6篇论文,并纠正了另外31篇论文的数据。吹哨人戴维声称,这些造假论文发表于1999年至2017年,其中一些论文刊发于《细胞》和《科学》等顶级科学期刊。戴维使用人工智能(AI)图片分析软件和手动检测发现了论文中的问题。
2024-03-21

“类脑”无线网络可处理数千微芯片数据
美国布朗大学研究团队在最新一期《自然·电子学》上描述了一种无线通信网络。它可有效地传输、接收和解码来自数千个微电子芯片的数据。
2024-03-21

Sora带来的深层次影响值得关注
上个月,OpenAI公司推出了文生视频人工智能(AI)模型Sora。OpenAI展示了Sora利用少量简短文字提示即可创建逼真视频的能力,并提供了包括一位女士在闪烁着霓虹灯的东京街道漫步,以及一只狗在两个窗台之间跳跃的视频片段。
2024-03-23
523
收藏
分享
乡村振兴协会 公众号
主办单位:河南省乡村振兴协会 承办单位:河南省乡村振兴协会产信委 技术支持:全息数字科技(河南)有限公司
法律服务单位: 河南诺方律师事务所(朱秩成 13838397329) 河南言正律师事务所(白铁军 15037119815)
Copyright© 乡村振兴公共服务平台 版权所有 豫ICP备2023012239号-1 豫公网安备41010502005757号