联合国教科文组织：人工智能伦理问题初步研究（四）

联合国教科文组织：人工智能伦理问题初步研究（四）2019-11-13Ⅱ.2.5..2.5.基于人工智能的决策基于人工智能的决策48.从法律专业和司法部门，到协助立法和行政机关进行决策，人工智能方法会在众多领域产生巨大影响。比如，它们可以提高律师在咨询和诉讼方面的效率和准确性，从而使律师、客户和整个社会受益。人工智能工具能够完善和增强法官现有的软件系统，帮助他们更好地起草新判决(CEPEJ，2018)。49.这种用途的一个关键问题是算法结果的性质与解释，这些算法对人类来说有时无法理解。[2]这个问题可以扩展到更广泛的数据驱动决策领域。人工智能引擎能够分析和处理性质迥异且快速变化的庞大数据并进行分类，因此人们认为它应当能够面对复杂局面提出建议并(在获得允许的情况下)做出决策。本报告讨论的此类用途包括环境监测、灾害预测与应对、社会动荡预期和军事战场规划。50.然而，我们应谨慎对待人工智能驱动决策的有效性。此类决策并不一定公平、公正、准确或恰当，容易造成误差、歧视性结果、嵌入式或插入式偏见以及学习过程的局限性。人类的“世界观”不仅更宏大，而且还拥有可在关键和复杂状况下超越人工智能的隐性知识，