根据我们读过的一个故事 技术简介,很难抑制愤怒地拳打墙壁的冲动。
近二十年前被谋杀的 18 岁女孩 Jennifer Ann Crecente 的家人最近发现她的照片在未经他们同意的情况下被人工智能聊天机器人平台使用。 Jennifer 的名字和图像是在 Character.ai 上找到的,该服务允许用户与人工智能生成的人物进行互动。从未向家人咨询或告知詹妮弗身份的使用情况,这让他们对这种严重的滥用行为感到震惊和震惊。
发现后,詹妮弗的叔叔在社交媒体上曝光了这起事件,并在自己的博客上发表了强硬声明, 填充和像素。
这真是太恶心了: @character_ai 未经她父亲的许可,用我被谋杀的侄女作为视频游戏人工智能的面孔。他现在很沮丧。我无法想象他正在经历什么。
请帮助我们停止这种可怕的做法。 https://t.co/y3gvAYyHVY
— 布莱恩·克雷森特 (@crecenteb) 2024 年 10 月 2 日
在公众强烈抗议后,该平台才删除了该机器人。
看到詹妮弗的脸和名字未经许可被使用,这让家人感到震惊,旧伤再次揭开。克雷森特将她死后最初的悲伤描述为“几乎灵魂出窍的经历”,并补充道,“我的灵魂感觉从我的身体中被撕裂了。 我有一段时间恍惚地体验着生活,仿佛我 有点 与我的身体分离, 从 世界。” 虽然家人不知疲倦地通过非营利性工作和教育来纪念詹妮弗,但这种未经授权使用她身份的行为感觉像是一种残酷的侵犯。
“感觉她又被从我们身边偷走了,”克雷森特写道,强调了人工智能粗心使用个人身份所造成的毁灭性影响。尽管他们努力删除聊天机器人,但损害已经造成。克雷森特提出了一个紧迫的问题:“为什么我们要保持韧性?为什么价值数十亿美元的公司不费心去制定道德的指导原则和有效的护栏来防止这种情况发生?”
说真的,为什么价值数十亿美元的公司不费心去制定道德的指导原则和有效的护栏来防止这种情况发生?
我们知道有坏人。从本质上讲,人们通常会做出坏事。但那些掌握权力的人——尤其是那些拥有巨大技术影响力的人——也有责任设定界限并创建阻止邪恶的框架。
答案在于技术进步、企业激励和明显缺乏综合监管的交叉点。
当像Character.ai这样的公司拥有复制人类身份的能力时——无论是活着的还是已故的——他们就有道德义务确保这种权力不被滥用。
答案在于将利润置于人之上。在无情的创新竞赛中,公司选择快速行动和创新,而不确保必要的道德障碍到位。并不是他们不能创造这些障碍;而是他们不能创造这些障碍。他们根本看不到这样做的直接财务价值。
这 残酷的现实是:以利润为导向的行业常常将道德视为一种可选的牺牲,尤其是在科技领域。
政府和监管机构落后于人工智能的快速发展,在法律上留下了巨大的空白。对死者身份的强有力的保护(如果有的话)很少。
现在就说出来吧!
媒体机构和倡导团体必须让科技公司对未经授权使用死者肖像负责。公众压力对于确保人工智能平台执行道德准则并防止未来发生此类违规行为至关重要。
必须敦促立法者制定明确保护死者身份的法律,确保他们的姓名、图像和遗产不能被利用来谋利。我们需要制定法规,在亲人去世很久之后仍能维护家庭的尊严。
我们必须要求公司制定并执行严格的人工智能使用道德准则。这包括同意协议和报告违规行为的透明流程。他们不应该等待家人在事后发现这些违规行为。
媒体必须继续在调查和揭露人工智能平台未经同意利用个人的事件中发挥关键作用。他们的不懈报道将使这些公司承担责任并推动变革,确保沉默不会导致这种剥削。
我们不能袖手旁观,允许此类违法行为继续发生而不受质疑。
#ResponsibleAI
在这个令人心碎的时刻,我们向克雷森特一家致以最深切的哀悼。任何人都不应该承受失去亲人的痛苦,更不用说忍受这种对记忆的侵犯。詹妮弗的生命和遗产值得尊重,当您面对这一难以想象的负担时,我们与您分担悲伤。
特色图片来源: 填充和像素