人工智能改变世界？还是先考虑 AI 带来的法规与监管问题吧！
2018-02-23 10:37:42
人工智能（AI）是现时每家公司都希望采用的科技，事关通过先进的AI技术，将可望减少人手！不过大家先别太高兴，事关人工智能亦会带来了一系列法规上的问题，假如你身处在一个依法治国的地方，便要多加留意啦！
AI以及机器学习等，由于需要通过收集大量数据以完成机器学习的过程，因此在企业角度来说，稍一不慎便很容易误堕法网，尤其是对于某些行业，例如：医疗保健以及金融业等，便需更加注意；但相对的，当企业欠缺足够的数据进行分析，亦会对AI以及大数据分析有明显的影响。
使用AI的风险
首先是金融公司。对她们来说，虽然使用AI可令投资决策更精准，不过错误使用AI例如错误采用不同的算法内容，便有机会令投资者做错决定。
至于医疗保健行业，现时采用AI以及机器学习等技术，主要用于进行各种的辨识功能，例如可识别诊断医疗影像中的情况！尽管这些基于AI及机器学习的识别会随着时间而变得愈来愈精准，然而由于识别过程之中欠缺将病人的病历以及习惯或患者的其他背景信息一并作考虑，因此与人工智能和机器学习所得出的结果可能很窄且不完整，而单单依赖这些结果而没有医学判断实际上还会导致更差的结果。
另外，AI亦会犯错！面对此情况，人类和机器的角色和责任又会是什么呢？机器如何做出决定并自主地学习以获得更好的结果？如果你认为人工智能是「工厂」，输出或决策是根据自我学习而制定的，那么人类的角色就是设计部门，通过良好的策略制定而使其产生可接受的结果以及降低错误所造成的损失；而作为人类，我们有责任确保这个学习过程的质量。
然而随着机器能够自己做出决定，我们亦同样需要考虑他们所犯的错误及其后果，以便设计合适的监管方法。
需要考虑的法律问题
除了监管方面，使用人工智能还需考虑法律上的问题，其中主要的问题是：假如机器得出错误的结论而造成可能有害的行动，谁将会为此而负责？是计算机？AI？还是开发者？
例如，出现医疗事故，是医生或医疗中心的问题，还是应用开发者及负责人的问题？又例如，患者明确要求以AI系统进行治疗，那又要怎么办？
另外在金融行业之中，如果使用人工智能来帮助收集财务信息，那么我们可能需要有一名主管签名并证明所提供用来分析的信息是准确的，事关不准确的数据源将会导致作出错误的投资决定。
换句话说，即使人工智能作出了任何的决定，都必须经人手再次确认，才可解决法规以及法律上的责任问题，亦即是说AI在某些行业之中并不能有效地发挥其作用。
安全AI最佳实践
其实我们可以作一些准备以防范与人工智能相关的法律和合规性风险。其中一个最关键的事情，就是彻底掌握机器如何做出决定。这意味着理解立法机构，法院和陪审团可能会对创建和部署系统的人产生不满，亦即是说开发者拥有很大的责任。
公司亦可能需要考虑他们是否可以设计一个系统，以便在满足监管机构和法律门坎的水平上的要求，而监管机构则可以通过责任规则和其他方法来鼓励这种透明度；企业亦应参与制定管理其运营规则的相关监管机构的规则制定，以确保其切实可行。
关注我们
Copyright©2019，All Rights Reserved.斯马特科技（广州）股份有限公司 粤ICP备17102244号
