Blair+Hanley+Frank

读过科幻小说的人都会告诉你，机器人一旦失控将会带来可怕的后果。IEEE（电气与电子工程师协会）对此做了深入的研究。

最近，全球最大的专业技术学会组织IEEE发表了一份报告，强调了工程师和研究人员在开发新的智能软件和硬件时，应以合乎伦理的方式进行思考。在他们看来，人工智能技术（AI）的发展应该要与人类的道德价值观和伦理原则相符合。

这份题为《伦理对齐设计》的报告长达100多页，提出了相应的发展指南和指导准则，希望AI领域专家、自动化系统专家应更多的投身系统设计的后果等方面的研究，并将人类伦理带入到AI的研究推廣当中。

在AI席卷全球的当下，智能制造和自动化系统中的伦理因素已变得越来越重要，因为越来越多的AI技术已被运用到市场和政府的工作当中。由此引发的很多讨论也是围绕着先进的AI系统而展开的，而现在已经有了能够对商业和政治决策产生重大影响的AI新技术。

IEEE人工智能与自主系统伦理道德考虑全球行动计划主席Raja Chatila在接受媒体采访时表示，AI系统技术工程师未必都清楚人与智能机器人之间存在的潜在问题。

他说，“我个人认为，大多数工程师和公司还没有真正意识到这些伦理问题，也没有真正面对这些问题。因为他们虽然受过开发高效工作的系统的培训，但是没有受过关于伦理问题的培训。”

已经出现的问题之一，即算法偏差。AI系统的确能够反映制造者的意图，但是如果这些意图与使用者不一致时，就有可能带来很多棘手的问题。……