OpenAI首席执行官Sam Altman周二宣布了针对18岁以下的ChatGpt用户的新政策，实施了更严格的控制权，将安全性优先于隐私和自由。这些变化的重点是防止与性内容和自我伤害有关的讨论，该公司面临诉讼和参议院听证会 AI聊天机器人的潜在危害。
新的安全措施和父母控制
在宣布更改的帖子中，Altman表示，在使用强大的新技术等新技术时，未成年人需要明显的保护。新政策旨在为青少年用户创造更安全的环境。 Openai国家：
“我们优先考虑青少年隐私和自由的安全。”
- 阻止不适当的内容。 Chatgpt将经过培训，以拒绝与未满18岁以下的用户轻蔑或性交谈。
- 干预自我伤害讨论。 如果未成年用户讨论或想象自杀场景，则该系统旨在直接与父母联系。在严重的情况下，它也可能涉及当地警察。
- 父母监督工具。 注册未成年帐户的父母现在可以设置”停电时间，“这将使在特定时期（例如深夜或放学期间）的青少年无法获得Chatgpt。
政策遵循诉讼和政府审查
在参议院司法委员会听证会上宣布了新规定的标题为“检查AI聊天机器人的危害。”预计听证会以亚当·雷恩（Adam Raine）的父亲的身份为特色，他是一名自杀的少年，在与chatgpt进行了几个月的交谈，他对Openai提起了不当的死亡诉讼，称AI的回应恶化了他的心理健康状况。
年龄验证的挑战
Openai确认了准确验证用户年龄的技术困难。该公司正在开发一个长期系统，以确定用户是否超过18岁。与此同时，任何模棱两可的案件都将违约为更限制的安全规则，以预防。为了提高准确性和启用安全功能，Openai建议父母将自己的帐户与青少年联系起来。如果系统检测到自我伤害或自杀想法的讨论，则该连接有助于确认用户的年龄，并允许父母接收直接警报。奥特曼（Altman）承认，这些新限制对未成年人的紧张关系与公司对用户隐私和成人自由的承诺之间的张力。他在他的 邮政，，，，
“我们意识到这些原则有冲突，并不是每个人都会同意我们如何解决这一冲突。”
