思辩|人工智能软件工程学

我心如烟卸

人工智能作为一门基于理论研究为基础的应用性多学科综合技术，涉及的知识领域广泛，除了算法、机器学习、模式识别等，软件工程在整个人工智能的发展过程中，同样起着相辅相成的重要作用。2021年伊始，深兰科学院结合数年的理论和实践，对人工智能软件工程学进行了梳理和思考，以期为行业从业者带来参考和启迪，共同推进人工智能的落地应用，更多造福民生。人工智能软件工程学
为了使学科架构更为清晰易懂，下文多采用架构图的形式呈现。


学科定位


使用传统软件系统开发方法论
开发人工智能应用系统的课题


人工智能技术架构


人工智能软件工程学基础研究的背景


人工智能软件工程学的技术课题
机器学习

系统整体

体系扩展

基于实践的反思
01. 机器学习的根本问题在于无法消除的不确定性，这一点与现有的软件工程学不同，以前认为软件只要努力就能完全建模（可以消除不确定性）。
02. 在使用机器学习的情况下，无法做到事先设定好条件。不仅仅是事先设想的情况，也会发生意想不到的事情，需要多面监督，多重监督等。
03. 区分有关生命的部分和有关便利性的部分。由于机器学习型的模块不能提供100%保证，所以与相同功能相关的其他方法和问题发生时的恢复策略，也要一起考虑与使用。
04. 不仅是结果，还要监视输入数据的分布。因为训练时的环境变化，将导致训练后的模型变得无效。
05. 测试中，要点是制作出与正确答案稍微错开的测试用例，如测试数据中加入噪声。
06. 谷歌等实际开展机器学习型系统开发的团队，在质量问题上也做了一定的努力，但是，其依赖于应用软件，还没有实现学术体系化。解决这个学术问题很重要。我认为再过两年，新建成的信息系统至少有一半会以某种形式包含着使用机器学习的技术。
07. 关注机器学习应用系统的生命周期，有必要着眼于数据和训练结束模型的再利用。
08. 在AI的社会，实现商业化中风险最小化的管理很重要。因此，机器学习型系统必须具有质量管理标准（具有的必要安全性）。
09. 如果没有基于工业的规格与标准，商业与业务交易或交流就变得非常困难。在受托进行训练的项目时，如何确定训练后的模型的质量标准（接受标准），现状是在暧昧的情况下进行绝大多数的交易与交流。
10. 所谓的全部验证是不可能完成的，其实不仅仅是人工智能系统，现有的系统也一样，需要非常重视系统设计的评审（review）。
11. 以前也有硬件故障和软件故障，不能提供100%保证，但有了接受风险的想法。
12. 包括不能提供100%保证的技术在内，对需求定义必须得到顾客的理解与认可。
13. 需要从费用（成本）堆积型的系统集成业务，转变为基于顾客可以认可的价值，并以成功报酬为导向的服务型业务。
14. 与非机器学习型的不同，对置换型开发/新规开发的影响评价（assessment）非常困难，区分二者是开发支援人的行动还是系统自动执行的程序是开发难点。
15. 不仅是提高精度、可靠性的技术开发，对收集到的数据进行标注与注释这种繁琐作业的方法论也很重要。
16. 使用机器学习后非常害怕动作改变，因为并没有得到顾客允许，只是改变事先准备好的模式排名的程度。
17. 系统整体不会成为基于数据的归纳性的动作定义，主要是基于软件（代码）的动作定义，部分使用基于数据的归纳性的定义。组合这些和自上而下的设计（形式化、符号论）的方法很重要。
18. 安全性与可靠性不是对软件而是对系统的要求，根据系统规格与要求，各个系统的安全性与可靠性水平也不同。
19. 自动驾驶领域的各种讨论与研究比较多，但竞争激烈很多都是处于非公开的状态，因此很难确定规格与标准。
20. 我们必须对关于机器学习应用系统的质量评价、产品品质、服务品质、平台质量进行必要的研究与讨论。因此，目标应用也应该在几个研究轴上进行分类，来讨论所要求的质量水平。
21. 软件的维护分为纠正维护和适用维护，平台质量属于适用维护。机器学习需要适应环境变化而得到必要的进化，事实上产业界真正想要的就是平台质量的标准。
22. 质量保证、软件开发过程、功能安全3个各自发展，但这些本质上应该是相通与融合的，所以另外对硬件、软件、AI也需要进行统一考虑与设计。
23. 硬件的故障是概率性的，软件的故障与瑕疵（bug）是决定论性的。但是，关于软件，实际上也根据测试工数的界限加入了概率性，不限于AI，概率性的处理是必要的。
24. 软件工程是模型的集合与组合，制作模型主要是依靠人力，是劳动密集型的工作（虽然在自动建模的研究上取得了一些进展）。如果正在进行的工作的信息化进展不顺利，数字化转型（DX）就会被推迟。
25. 安全性与信赖性的需要从 1)过程（制作是否正确）；2)产品与服务的安全性；3)是否可以解释（结果）这三方面开始思考。
26. 软件工程领域的研究人员和产业界应该联合起来进行研究与讨论。在美国的数学领域非常重视应用数学并引入了各种现实的问题，得到了发展。软件工程也应如此。
作者：沙文灏
深兰科技首席数据科学家
战略委员会战略技术专家
深兰科学院智能社会研究院院长
在人工智能领域基于丰富的系统实践编著了《数字化战略导论》、《人工智能实践方法论》、《构建大规模IoT系统的方法论》，并参与了上海市的十四·五人工智能产业规划的制定。
曾经担任欧洲最大咨询机构源讯(AtoS)大中国区首席&业务总监、日本前3位著名战略咨询公司CDI日本总部全球首席，在咨询领域具有33年以上丰富经验，拥有高于95%的项目成功率。曾任日本外务省(JICA)专家、日本电气学会信息化委员会委员，在日本出版了两本信息化专著和教材。

123456823

前排顶，很好！

飘渺九月

前排支持下了哦~

刘冠华

顶贴是一种态度！