人工智能前沿讨论研究——从数百个用例中获得的洞见（下）（二）

人工智能前沿讨论研究——从数百个用例中获得的洞见（下）（二）2019-04-19第五个限制因素是数据和算法中的潜在偏差。这点与上述所列的4项不太一样，前述4项均可通过开发新技术来解决，但是潜在偏差则不然，它要求更广泛的解决步骤，比如了解收集训练数据的过程是如何影响模型结果的，可帮助改善潜在偏差。在某些情况下，如果应用不当，AI模型有可能会长期延续现有的社会和文化偏差。例如，如果训练数据集的代表面不够广泛，那么可能会带来无意偏差。因此，从全市摄像网络中收集的数据很可能显示各种信号，包括犯罪、户外广告等，但是，如果只是抽取某个摄像机密度比较高的地区的摄像数据，那它便很难代表整个城市。类似地，如果利用人工智能开发者所在地区的人脸信息去训练人脸识别模型，那么将此模型运用到其他更多地区就会出现偏差。此外，最近一份关于恶意使用人工智能的报告强调指出了一系列安全威胁，从复杂的黑客攻击到高度个性化的政治虚假宣传活动等，不一而足。报告列出的风险包括与侵犯隐私和社会操纵相关的威胁，比如分析所搜集的海量数据、进行有针对性的宣传和利用特定视频进行欺骗等。目前，多项研究正在进行，旨在确定最佳做法，解决学术、非