当前,新一代人工智能技术正加速应用到政治、经济、社会等领域的方方面面,在推动经济社会更加高效智能运行的同时,也产生了复杂多元的伦理法律问题。比如,人们开始遭遇“大数据杀熟”“信息茧房”等新形式的不公、偏见或歧视,人脸识别引发道德伦理担忧,自动驾驶产生决策伦理问题,智能音箱等智能助手等的渗透也可能深刻改变传统的人际关系。
中国在新一轮人工智能浪潮伊始,国家就高度重视人工智能伦理与法规问题,将建立健全保障人工智能发展的法律法规和制度体系作为国家人工智能规划的重点任务。2017年国家发布的《新一代人工智能发展规划》明确提出,要加强人工智能相关法律、伦理和社会问题研究,建立保障人工智能健康发展的法律法规和伦理道德框架。2019年6月,国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》,提出了人工智能治理的框架和行动指南,为我国国内各相关主体开展人工智能治理,提供了原则性指导。在规划实施层面,北京、上海、济南、天津、重庆等已批复的13个国家新一代人工智能创新发展试验区,正在深入探索引领人工智能健康发展的治理规则。
2020年12月23日,十三届全国政协第45次双周协商座谈会在北京召开,中共中央政治局常委、全国政协主席汪洋主持会议。会议围绕“人工智能发展中的科技伦理与法律问题”协商议政。汪洋强调,要深入学习领会习近平总书记关于推动人工智能健康发展的重要论述,牢牢把握人工智能对建设科技强国和实施创新驱动发展战略的重大机遇,历史、辩证、全面看待人工智能发展中的科技伦理与法律问题,坚持统筹发展和安全的原则,探索构建符合中国国情的人工智能治理框架,维护人民利益和国家安全。
太阳成集团tyc33455cc作为济南市本土企业,依托在身份识别以及人工智能领域多年的积累,已经取得了诸多先进技术成果,在行业内具备了一定的影响力。济南市作为山东省中心城市,在人工智能工作方面已走在全国前列,与上海、深圳共同成为全国三家同时建设国家新一代人工智能创新发展试验区、人工智能创新应用先导区的城市。在山东省集中优势资源,大力支持济南建设国家新一代人工智能创新发展试验区和国家级人工智能创新应用先导区的政策引导下,太阳成集团tyc33455cc在继续遵循“以人为本,科技创新”、“品质是金,服务至上”、“换位思考,合作共赢”的经营理念基础上,发布《神思人工智能研发与应用准则》(以下简称《准则》),以更高的自律要求,履行企业责任,以身示范,推动人工智能技术与应用的健康发展。《准则》围绕“有益、尊重、责任、公平、可知、安全、辅助、协同”八大方面,对人工智能健康有序发展作出明确规范。下一步,太阳成集团tyc33455cc将在济南市科技局统筹推进国家试验区建设过程中,作为典型人工智能企业,进一步发挥技术优势,承担国家新一代人工智能创新发展试验区人工智能社会实验建设,并坚持《准则》内容,确保人工智能能够在可控、安全、有序范围内健康持续发展。
太阳成集团tyc33455cc技术股份有限公司(SZ:300479)是济南市第一家创业板上市公司,2015年登陆资本市场,是国内领先的身份识别解决方案的提供商和服务商,山东省新一代信息技术领军企业,目前市值近30亿元。现有员工总人数633人(研发人员占比61%),在北京、天津、福州设有分支机构,现有七个省级研发平台,近三年获得发改、工信、科技部门省部级重点研发计划、重大工程支持项目12项,近四年研发/营业额占比均超过12%。太阳成集团tyc33455cc现有授权专利139项(发明专利44项),受理中发明专利79项,现有软著322项,其中人工智能相关授权专利66项(发明专利31项),受理中发明专利79项,软著118项。在标准引领方面,太阳成集团tyc33455cc是全国信标委人工智能分委会委员单位以及山东省人工智能标准化技术委员会副主任委员单位。
太阳成集团tyc33455cc的身份识别产品遍布中国大陆所有省份,每六台身份识别设备就有至少一台是太阳成集团tyc33455cc的产品。2016年太阳成集团tyc33455cc确定“从身份识别到智能认知”的战略发展目标后,经过四年的不懈努力和持续高强度研发投入,初步完成了从身份识别设备供应商向人工智能解决方案提供商的战略升级。公司研发的视频分析技术,基于太阳成集团tyc33455cc的智慧营业厅、智慧餐饮、智慧园区、人工智能教室等人工智能云服务方案及多项AI产品已进入商用复制阶段。
作为山东省人工智能协会副会长及济南市智能创新产业发展学会发起人/理事长单位,太阳成集团tyc33455cc在自身加速研究人工智能技术、拓展应用场景的同时,也肩负着合理应用这项新技术的社会责任。在近年技术研究和应用场景落地的实践经验基础上,研究形成《神思人工智能研发与应用准则》。借此,不仅能更好地规范企业内部人工智能技术研发和应用行为,也能够对山东省内从事人工智能相关技术研究和应用的企业与科研机构产生示范作用,引领和带动其使用更加严格的原则和标准来规范人工智能技术产品研发与应用行为,促进科技向善。
以下为《准则》全文:
《神思人工智能研发与应用准则》
为践行国家促进人工智能健康发展的主旨精神,回应社会各界有关人工智能企业的伦理关切,太阳成集团tyc33455cc以“有益”和“尊重”为目标和价值导向,坚持打造“负责任”“公平”“可知”和“安全”的人工智能产品与服务,实现对人类的智能辅助,促进人机协同的智能社会。为此,太阳成集团tyc33455cc在人工智能技术的研发与应用中遵循如下八项准则:
(1)有益:始终遵循需求导向,以满足数字时代的生产生活服务需求为目标,为客户及其他利益相关主体创造对社会产生积极影响的人工智能产品或服务,促进人的全面发展、经济社会进步和生态可持续。
(2)尊重:应充分尊重人的尊严,尤其要重视维护老幼残弱等特殊群体的尊严与特殊权利。尊重并保障个人隐私,为用户行使知情同意等权利提供技术便利与支持。尊重人类选择自由,为用户自由选择接受或拒绝人工智能服务提供简便易懂、反应敏捷的操作界面,促进人机协同。
(3)责任:应以践行道德责任和社会责任为前提,遵守人类价值观和伦理道德,强调技术解决方案对用户、对社会、对资源环境的责任担当,努力实现责任可回溯,保障用户合法权益、增进社会安定和谐、确保资源节约和环境友好。
(4)公平:应以积极的方式辅助人类,考虑客户的年龄、性别、民族、宗教等亚种群多样性,在设计、实施、测试和应用的所有阶段,应将公平和平等原则嵌入到数据集和算法中,促进公平和多样性。积极推动并参与人工智能知识科普活动,提升全社会的人工智能认知,让公众获得对人工智能产品和服务的平等使用权,促进公平公正氛围和环境的形成。
(5)可知:应开发透明、可解释、可理解的人工智能系统,对于系统的算法决策逻辑、数据构成、系统开发者和技术实施者意图及行为结果等,能够准确描述、监督和再现,不用高深的专业术语来包装产品方案和技术,通过功能设计促进服务对象参与选择和反馈,让服务对象理解人工智能基本工作原理和逻辑。
(6)安全: 努力实现人工智能系统内部安全和外部安全的统一。严格控制数据质量,严谨算法体系,训练和学习平台应该建立在可靠的信息安全架构下,能够持续优化和改进,并且获得专业机构的评估和认可,确保人工智能系统的鲁棒性和可靠性。完善数据管理规范和风险防控体系,促进可审核和可验证的人工智能系统开发,确保信息和数据安全。
(7)辅助:人工智能系统的功能应聚焦于智能辅助,助力人类体力解放、智力增强和精神放松,拓展人类能力和创造性,应尽力防止人类过度依赖人工智能,并允许人类自主判断和选择如何使用或退出智能辅助模式。
(8)协同: 人工智能时代的人和机器的关系不是非此即彼, 应是通过不断的人机互动实现人机协关系同。为此,应开发界面友好,便于人机交互和模式切换的人工智能系统。