赫瑞瓦特大学教授迈克尔·隆斯 (Michael Lones) 的研究警告称，将生成式人工智能纳入机器学习系统可能会显着增加网络攻击和数据泄露等风险，同时也会使针对代表性不足群体的偏见长期存在。
这项研究发表在《模式》杂志上，概述了与生成式人工智能相关的意外危害，尽管它具有潜在的成本和效率优势。 Lones 强调开发人员必须在能力增强与可能涉及的危险之间取得平衡。
Lones 表示：“机器学习开发人员需要意识到在机器学习中使用 Gen AI 的风险，并在能力改进和随之而来的风险之间找到合理的平衡。”他警告说，某种能力的存在并不意味着应该使用它。
生成式人工智能越来越多地被跨行业用于设计、构建和操作机器学习系统。 Lones 确定了生成式人工智能在这种情况下的四个主要应用：作为机器学习管道中的组件、用于设计和编码这些管道、合成训练数据以及分析输出。然而，每个应用程序都带有固有的风险。
他指出，将大型语言模型（LLM）用于多项任务或自主角色会增加这些风险。法学硕士可能会出现不准确和捏造的信息，从而使对其绩效的评估变得复杂。 Lones 指出了法学硕士的不透明运作带来的挑战，特别是在医药和金融等需要可靠且可解释的决策的领域。
正如 Lones 解释的那样，“在医学或金融等领域，有法律规定能够证明机器学习系统是可靠的，并且你可以解释它如何做出决策。一旦你开始使用法学硕士，这就会变得非常困难，因为它们是如此不透明。”他警告说，虽然公司可能利用生成式人工智能来增强用户体验并削减成本，但此类部署可能会导致负面结果，包括偏见和不公平。
<小时/>
