传递给机器学习模型的训练

借助强大的人工智能应用程序，可以揭露个人秘密，并且可以在未经个人知情或同意的情况下错误地将行为归因于个人。保护您的个人信息至关重要，保持警惕也很重要。虽然某些技术的设计初衷是好的，但如果落入坏人之手，它们可能会被滥用。当我们探索这项创新技术的可能性时，重要的是要时刻注意其潜在后果和负面影响。虽然使用人工智能非常有益，但它也可能带来重大的安全和隐私风险。善意和恶意的行为者可能会损害人工智能模型、数据性能、公平性、安全性和隐私。数据中毒：数据中毒是对机器学习系统进行深入研究且有效的攻击。在深度学习（机器学习的子集）中，数据起着至关重要的作用，即使数据中的微小偏差也可能导致系统无法运行。

攻击者利用机器学习系统的这一漏洞和敏锐性，试图操纵数据进行训练。数据中毒直接影响数据的两个关键要素：数据机密性和数据可信性。用于训练系统的数据通常包含机密和敏感信息。通过投毒攻击，数据的机密性被丢失。人们通常认为，保护数据的 电子邮件营销列表 机密性本身就是一个复杂的研究领域。然而，机器学习的附加方面使得保护数据的机密性变得更加重要。数据可信度和数据机密性已被视为单独的威胁。但据信所有安全威胁都属于数据中毒。因此，它被视为数据中毒攻击本身。创建机器学习系统时，机器学习工程师必须对数据有信心。当从在线来源或传感器收集数据时，系统受到数据污染的风险很高。

标签翻转：标签翻转攻击涉及更改数据中的标签，从而毒害数据。在监督学习的情况下，数据包括给定输入的期望输出。如果这些预期输出属于不同的组，则标签称为标签。标签翻转涉及交换预期结果。当攻击者向模型的训练数据集中添加不充分的数据，导致模型学习不适当的信息时，就会发生中毒攻击。中毒攻击最预期的结果是模型的边界限制以某种方式发生变化。梯度下降攻击：使用机器学习模型时，它通过试错方法进行学习。然而，在第一次迭代中，模型不可能开始正确预测答案。一般来说，模型会用实际的解决方案来评估预期的答案。通过多次迭代调整常量变量以找到正确答案的过程称为梯度下降。