Reddit正在收紧验证过程,以防止类似人类的AI机器人,该公司的首席执行官史蒂夫·霍夫曼(Steve Huffman) 宣布 周一。此举是在一组研究人员之后 发行 在“改变我的视图” subreddit上,一群人AI驱动的机器人发表了1,700多个评论并采用了各种角色。
Reddit谴责“不当和高度不道德”的实验强调了AI驱动的机器人在平台上模仿人类的潜在风险。为了减轻这种情况,Reddit将开始与第三方服务合作,以验证用户的人性,要求某些用户提供信息以确认他们是人类,在某些情况下是成人。
霍夫曼强调,Reddit不会要求用户披露其姓名或身份,并指出“匿名对Reddit至关重要。”该公司计划利用外部公司提供“基本信息,别无其他”,并保证它将继续保护用户的个人信息并反对当局的过度需求。
该决定很可能部分是由于不断发展的监管要求所驱动的,包括至少在九个州通过的法律和英国强制验证以保护社交媒体平台上的儿童。 Reddit已经采取了禁止“不良”机器人的措施,但是新的验证过程可能会用于进一步保护平台。
需要用户进行验证的确切情况尚不清楚,将使用的特定第三方服务也是如此。流行的验证平台包括角色,合金,条纹身份,格子和足迹,通常需要政府发行的ID来验证年龄和人性。也可以考虑较新的技术,例如Sam Altman的“人类的证明”设备。
批评者引起了人们对与ID检查相关的潜在数据隐私和安全风险的担忧,尤其是在Reddit之类的平台上,用户经常匿名共享敏感或个人体验。霍夫曼承认这些担忧,指出Reddit将“极大地保护您的个人信息”。