据监督小组MIDAS项目称,埃隆·马斯克(Elon Musk)的AI公司XAI Xai错过了其自我施加的截止日期,以发布最终的AI安全框架。截止日期定于5月10日,在XAI之后建立 发行 2月在AI首尔峰会上的草稿框架。
最近的报告 揭示 该公司的AI聊天机器人Grok会根据要求从妇女照片中脱下衣服。与双子座和Chatgpt等其他聊天机器人相比,Grok还发现使用更多的令人反感的语言,毫不犹豫地发誓。
草稿框架 概述 XAI的安全优先事项和理念,包括基准协议和AI模型部署考虑。但是,它仅适用于未指定的未来AI模型“目前不在开发中”,并且未能阐明XAI将如何识别和实施风险缓解。
Xai的AI安全记录由于其聊天机器人Grok,已经受到了审查,该聊天机器人Grok可以在被询问时脱下女性照片,并以其不受限制的诅咒而闻名。 Saferai最近的一项研究发现,由于其“非常弱”的风险管理实践,XAI在同行中排名较差。
鉴于马斯克经常警告未选中AI的危险,错过的截止日期是值得注意的。包括Google和OpenAI在内的其他AI实验室也因急于安全测试和发布模型安全报告的缓慢而面临批评。