德国联邦政府为了进一步发展和应用人工智能,根据当前的人工智能战略,建立了一个整体的政策框架。
首先,联邦政府考虑了人工智能技术的快速发展,以及由新人工智能技术驱动的全球生产和价值链变化。研究和创新是未来人工智能技术的基础,德国拥有广泛的研发领域,起点很高,正在强化德国作为人工智能研究中心的地位。
其次,联邦政府考虑到经济、科学和政府层面的多方意见,将人工智能作为关键核心技术,实现应用领域的快速投资和可持续发展。联邦政府希望支持具有一定研究实力的企业开发人工智能的潜力,参与国际竞争,并保持领先地位。为此,联邦政府将促进人工智能在经济层面的应用,特别是推动中小企业的发展。
最后,鉴于人工智能等影响深远的技术可能渗透到敏感的生活领域,在制定具体战略时,应以民主权力为基础,考虑道德、法律、文化和制度等多方面因素,保障社会整体价值观和个人基本权利,服务于社会和人类。目前人工智能主要应用于日常生活中的自主和智能系统,但其他相关知识和技术经验尚未进行扩展,因此社会整体关系并未受到影响。未来的发展充满机遇和风险,德国联邦议会信息伦理委员会和调查委员会已经在近期启动工作,把其作为重点领域,并将向联邦政府提供建议。
为了推动立法进程,2018年7月18日德国联邦内阁通过了人工智能战略要点。在人工智能技术领域快速发展的背景下,当前制定的战略作为联邦政府的行动框架,也作为数字化战略的组成部分。到2020年,将根据讨论的情况和结果进一步完善人工智能战略,以适应最新的发展和需求。
目标
联邦政府通过研究欧盟人工智能战略,在磋商框架下就德国人工智能战略基本目标关键点达成广泛共识,确定了以下目标:
将德国和欧洲打造成人工智能的领先基地,以此来确保德国未来的竞争力
联邦政府决心将德国和欧洲的人工智能研究、开发以及应用发展到世界领先水平,并保持这一地位。认为德国应当成为人工智能领域的世界领导者,将研究成果全面、快速地转化为应用,并在法治框架内实施现代化管理。“人工智能德国造”将成为全球公认的标识。
联邦政府希望扩大德国人工智能的科学基础,并将其与其他有前景的技术和应用相结合,在不同行业、公共管理和社会领域开辟新应用;希望德国扩大其在工业4.0中的领先地位,并成为该领域人工智能应用的领导者;希望中小企业能从强大的人工智能应用中受益,并将为其创建相应的服务和环境条件。
联邦政府希望德国在人工智能研究中发挥重要作用,与欧洲合作伙伴和技术领导者一起成为领先者。努力为国内外人工智能专业人士打造具有吸引力的研究、创新和经济中心,吸引并留住世界上顶尖的人工智能人才和专家,大力提升人工智能领域的教育培训能力。
联邦政府希望确定一个正确的框架,以便在德国实现人工智能的应用价值,努力的重点是让个人和社会都能享用到人工智能带来的便利。
联邦政府希望在严格尊重公民的数据主权和数据安全,造福于社会、环境、经济、文化和国家的前提下,利用这些特定数据集,在德国开发基于人工智能的商业模式,并使之成为新的出口畅销品。
在扩建实时数据传输和分析的智能基础设施的过程中,联邦政府将人工智能应用作为固定和移动系统中的核心,这将有利于联邦政府公共管理的网络基础设施。
联邦政府希望确保使用和部署人工智能的IT系统,能够提供更高级别的IT安全功能,避免因这种敏感技术被操纵和滥用而造成的公共安全风险。
实现负责任、以共同福祉为导向的人工智能的开发和利用
联邦政府的职责是促进负责任、以共同福祉为导向的人工智能使用,并在整个过程中,监督其遵守道德和法律原则,落实信息伦理委员会的建议。
联邦政府希望效仿欧洲基于数据驱动型商业模式的做法,寻求与联邦政府的经济、价值观和社会结构相匹配的数据驱动价值创造的新途径。
联邦政府希望提高利益相关者(从人工智能技术的开发商到用户)的敏感性,重视人工智能在道德和法律上的限制;在人工智能开发和应用的整个过程中,考虑是否需要为高级别的法律确定性进一步制定监管框架,并鼓励和要求人们遵守道德和法律原则。
在广泛的社会对话和积极政策架构下,联邦政府将通过道德、法律、文化和制度把人工智能嵌入到整个社会中
联邦政府致力于实现以人为本的人工智能应用的开发和使用,尤其是在工作场所使用的人工智能。联邦政府希望确保在人工智能应用开发过程中,劳动者处于中心位置:开发其技能、才华、创造力、自决、安全和健康。联邦政府还希望将多元化视角纳入到考虑因素,并照顾残疾人的特殊需求,使其能充分参与劳动力市场。
联邦政府希望利用人工智能的潜力,进一步提高对公民重要的所有应用领域的安全、效率和可持续性,同时提高公民的社会和文化参与度、行动自由和自决,这些都在德国,同时也在欧洲和全球范围内进行。
联邦政府特别希望将人工智能的潜力用于可持续发展,从而为实现2030年议程的可持续性目标做出贡献,并声明该议程与德国可持续发展战略具有约束力。
联邦政府希望为人工智能应用设置框架条件,以创建并维护应用环境的多样性,并为文化和媒体自由的发展提供必要的空间。因为,即使在数字时代,民主社会的自由也同样体现在其文化和媒体多样性以及媒体的独立性上。
出发点
在过去的几年中,人工智能进入一个新的成熟阶段,并且正在发展成为所有生活领域的数字化和自治系统的基础创新。在国家、社会、经济、管理和科学层面上,联邦政府要直面人工智能的机遇和风险,希望可以创造条件,利用人工智能的机会,并开发其潜力,将人工智能纳入到所有政策领域,在基于民主秩序的经济和社会层面实现以人为本、以社会福祉为导向的应用。人工智能尤其是机器学习领域的最新进展,是建立在硬件性能呈指数级增长及其应用于大数据处理的基础之上。
德国拥有多样化的高效科研格局和基础广泛的经济结构,并且在工业4.0等重点领域处于技术领先的地位,可以与人工智能技术的潜力相结合,用于开发未来的价值。这些优势可以强强联合,并不断扩展。
人工智能已经越来越多地从研究层面转向经济应用领域。大型数字集团公司正在大力投资人工智能技术的开发和应用,希望提高现有效率,或进入新的商业模式。全世界许多国家的公共投资也在增加。人工智能技术越来越普遍地渗透到经济和人们的日常生活中。在尊重公民信息自决权的前提下,人工智能成功应用的关键是对数据的访问,在复杂产品、服务或商业模式中嵌入人工智能技术系统,以及基于公民的积极参与、透明程序和可追溯性建立的信任关系。
与其他国家一样,德国面临的挑战也是塑造由数字化引发的经济、劳动力市场和社会结构的转型,以及开发与人工智能技术相关的潜力。这为传统上非常强大,且通常为中等以上规模的制造企业提供了巨大的机会。与此同时,围绕人才、创造力、技术、数据和投资的国际竞争也在不断加剧。此外,还面临新的人工智能技术转化成联邦政府的经济所带来的挑战,这主要是针对中小企业。特别是在这个复杂的转化过程和中小企业间的数据交换中,德国都具有最大的增值潜力。在进一步重视公共管理和其他政府责任的某些方面,人工智能也将发挥巨大的潜力。
技术的发展带来了社会的变革,也引发了关于人工智能适用的法律框架的讨论。与此同时,还需要提高社会对人工智能的基本和广泛的理解,以加强公共辩论所需的事实和证据基础。联邦政府的战略应有助于“人工智能德国造”的方案,对待技术的独特和具体方式应有助于国家和社会的福祉,并易于被国家和社会采纳。
一些国家已经建立了自己的人工智能战略。作为一项顶层战略,目前欧盟成员国正在制定联合执行计划。面对诸多挑战,尤其是人工智能技术对欧洲统一道德规范造成的挑战,必须加强欧洲内部以及国际范围的合作,确保在经济层面使用人工智能,同时做到以人为本。
《欧盟通用数据保护条例》是重要的第一步,也为进一步的欧洲合作打下了重要基础。欧洲不仅要发挥技术实力,充分利用市场优势,还要积极宣传其价值观,参与国际规则的制订,并颁布欧盟标准。
联邦政府借助人工智能战略,可以有效执行当前的《2025高科技战略》。该战略作为未来的竞争力,将人工智能技术作为创新区位的焦点,将人工智能的应用转化作为联邦政府的共同使命。
基于国内外开发和使用人工智能技术的现有经验,联邦政府将以下行动领域和措施,作为打造德国以及欧洲未来发展和应用人工智能技术的重点。
行动领域和措施
实现上述目标需要来自工商界、科学界、政治界和社会团体的共同行动。人工智能战略将采取横向跨部门界限的措施。在联盟协议的政治和财务预算约束框架下,联邦政府将以特殊方式支持各经济部门或营运领域(垂直)的人工智能应用作为重点。目前,已经开始实施一些关于人工智能战略的措施,并在财务预算计划中体现其影响。
联邦政府邀请各联邦州、工商界、科研院所和所有相关社会团体参与该项战略的实施。利用人工智能为社会提供机遇,这是一项远远超出联邦政府权限的全国性任务。例如,在应对未来的挑战方面,教育和培训将十分重要,需要国家和社会伙伴的特别资助。
根据2019年的联邦预算,第一步将提供约5亿欧元的资金,在此基础上,加强2019年及未来几年人工智能战略的实施。在2018年~2025年的人工智能战略实施方面,联邦政府可以提供约30亿欧元,用于研发投资,从而达到3.5%的研发目标。来自经济界、科学界和国家的杠杆效应至少会使联邦政府可支配的资金翻倍。因此,联邦政府将立即开始就这一领域相关措施的具体执行展开谈判。预期的研究资金为人工智能战略提供重要的、可持续的支持。
加强德国和欧洲的研究,成为创新引领者
人工智能的研究方兴未艾,范围涵盖多个领域。目前最受关注的是模式和语音识别、机器学习、神经网络和专家系统等主题。因此,在人工智能背景下,研究机构专注于一个或多个学科领域。总体而言,人工智能研究的特点是动态性强、创新周期短。因此,联邦政府无法准确预测人工智能整体或具体的研究领域(例如,在未来几年,机器学习或神经网络将如何进一步发展、哪些应用和技术最终会落地)。因此,人工智能研究战略将不仅着眼于个人的研究方法和应用,而且支持建立动态和基础广泛的人工智能生态系统,并将其作为发展基础,从而对当前发展趋势作出灵活的响应。这种人工智能研究生态系统的质量将高度依赖于研究和创新人员、科研机构、总体框架的卓越程度,以及国内和国际合作模式的质量。例如,大型研究机构的数据密集型实验,可以促进找出有效、高效的人工智能分析方法,而这些方法在其他领域也同样适用。
为此,需要制定基本原则,以及和社会相关具体应用领域的未来结构措施、中短期研究项目。
2018年9月13日在柏林确定了人工智能战略关键点,举办与研究相关的专业论坛,并开展以行动领域为主题的在线咨询。
内容的选择和广泛分散的做法已得到大多数反馈的证实,旨在发展人工智能生态系统。无论是基础研究,还是行业和特定应用领域的研究,都需要达成共识。在此,需要强调欧洲和国际层面的联网与合作的重要性。结构性措施侧重于人才培养、总体框架,以及融资情况。在研究内容方面,特别需要加强对人工智能算法的审查、可追溯性和透明度的研究。
联邦政府将进一步发展现有的人工智能能力中心,争取建设更多中心,组建一个至少包含12个中心和应用集群的全国性网络,从而打造具有国际吸引力和竞争力的就业环境和薪酬条件。
联邦政府将建立劳动力研究区域能力中心,在人工智能时代,劳动力研究与行业实践中的职业规划密切相关。联邦主管部门将协调转化结构,制定统一的人工智能转化方式。
在国家研究联盟框架下,联邦政府将建立合作组织,并加强与外部利益相关方的合作。
联邦政府将在人工智能领域推出科学训练和青年学者培养及教学计划,至少新增100名教授,为高校的人工智能教育奠定基础。
在德法两国现有机构和能力的基础上,与法国共同建造德法研究和创新网络(虚拟中心)。
在系统方法层面,联邦政府将支持软件开发与硬件开发的结合。
联邦政府将支持对算法预测和决策系统的监控和可追溯程序的相关研究。
联邦政府将促进保护消费者隐私权相关应用的研发,以便实现个人数据资料的差异化和授权处理。
联邦政府将开发人工智能与关键技术相结合的潜力(例如,生物技术和生产技术)。
联邦政府将在农业和食品链中开发人工智能的应用。
为了保障公民安全,要加强基于人工智能技术的相关研发。
联邦政府将加强人工智能系统的安保能力,通过进一步的建设,将其作为广泛信息通信安全的基础。
联邦政府将在医疗卫生领域应用人工智能,在考虑到保护患者合法权益的前提下,对于分布式数据源产生的数据,实行数据保护式开发。
联邦政府将推动人工智能在护理领域的研发。
联邦政府将在航空航天与人工智能的技术结合上加强研发。
在研发的早期阶段,联邦政府需要达到高规范的监管要求,以便成功进入应用阶段。
联邦政府将审查适用于人工智能研究的现有资助程序,开发更快捷、更新颖的资助形式。
创新竞争和欧盟创新集群
创新竞赛是推动研究、开发和创新的一个特殊渠道,特别是针对基于机器学习的数据驱动的人工智能软件应用程序,目前已经开展了大量的效率较量竞赛,这是寻找更新、更好的解决方案的激励措施。
在规划的跨跃式创新计划中,联邦政府将人工智能作为重点之一。
联邦政府将构建欧洲创新集群,在未来五年将对其合作研究项目提供资助。
联邦政府将审查人工智能领域符合欧盟共同利益的重点项目。
成果转化,加强中小企业优势
联邦政府的目标是通过广泛应用创新技术提高竞争优势,保持德国和欧洲经济的竞争力。这尤其适用于将人工智能应用作为关键技术。尽管美国和亚洲公司取得了巨大的成功,但德国仍然是最重要的经济实体之一。这主要归功于德国的中小企业,这是世界上独有的一种模式。德国中小企业是许多关键技术的来源,通过人工智能,这些关键技术可以发展、创造下一个价值链的范例。为此,联邦政府将专门促进和支持中小企业的发展。
尽管一些企业在人工智能的开发方面已经取得了很大的进步,但对于大多数德国企业来说,尤其是中小企业,即便在其行业、应用领域或竞争领域,已经开始利用人工智能技术,但仍缺乏人工智能的专家。为此,联邦政府将采取重点措施,促进德国所有规模企业,从初创企业、中小企业到大型集团公司,不仅要使用人工智能程序,而且要将其纳入到业务流程中。
联邦政府将探索新的模式,采用整体方法来改善研发与企业之间关于可应用人工智能知识的转让,从而帮助企业提高人工智能的运营能力。联邦政府还专门制定了行动指南,说明如何与创业企业建立联系。
为了将知识和使用人工智能应用程序的能力输送给更多的公司,联邦政府需要开辟更多路径。此外,还需要强调关键点所述实体实验室或测试领域相关设备的重要性,通过这些设备可以测试和验证人工智能应用及监管方法。
联邦政府将强化并扩大现有的转让机制。
联邦政府将进一步制定筹资措施,并建立更深层的互联模式。
联邦政府将扩大针对中小企业的人工智能专项支持。联邦政府将借助中小企业4.0能力中心,通过“人工智能培训师”,每年至少与1000个公司建立关联。
联邦政府将在建立测试能力方面提供支持。
联邦政府将启动、支持并监督实体实验室的建设。
联邦政府将支持和推广灯塔项目。
联邦政府将在地图上汇总有趣的人工智能案例。
联邦政府将支持企业之间的合作。
联邦政府将通过人工智能监控,确定人工智能的渗透率。
唤醒创业活力,并助其走向成功
联邦政府决定大幅推动基于人工智能的商业模式和产品的发展,改善风险投资的整体可及性。因此,必须创建针对投资者的激励机制。此外,联邦政府还希望从研究中获得更多的附加利益。将采取以下具体措施:
针对支持经济界创业的“生存(EXIST)”项目,联邦政府在2019年的预算将比往年增加一倍。
在风险投资和风险债务领域,联邦政府将提高公共资金,如正在推广的科技成长基金计划。
联邦政府将继续加大对全面咨询服务和创业资金的支持。
联邦政府将通过数字中心项目,加强初创企业的人工智能。
实现就业和劳动力市场的结构性调整
人工智能的应用将就业岗位调整推动到新水平,与目前的自动化和数字化存在显著的差别。在此背景下,联邦政府将批判性地反馈之前的就业预测和状况,并重新调整、设计和进一步开展人性化工作的策略。人工智能对需求、职能、工作、工作组织和工作关系都有影响。全面、以人为本和以用户为中心的方法对于人工智能在工作场所的开发和积极使用至关重要,同时也是开发人工智能的创新和生产潜力的前提条件。因此,联邦政府不仅要投资于技术的进步,还要投资于社会的技术设计和劳动力技能。在关注企业利益的同时,也应该兼顾到个人技能和人才的自主发展、社会保障和工人健康,以及社会参与和包容的问题。联邦政府将帮助公司和员工为变革做好充分准备,并共同成功地完成转型过程。
参与这一行动领域磋商进程的一个关键点是迅速制定国家培训战略。目的是为数字化继续教育创造更加灵活和非正规化的方式,并改善资格认证的透明度和质量。在磋商过程中,各利益相关方指出,除了创造继续教育的机会,还必须进一步讨论在继续教育阶段的资金和时间问题,包括人力资源等方面。例如,许多中小企业由于资金不足,目前无法对员工进行必要的培训。
人工智能的整体社会潜力是在提高生产力的同时,也增加员工的福利,单调或危险的任务可以被机器取代,人们可以更专注于创造性的解决问题。这需要积极的设计,在咨询过程中,需要强调社会伙伴的突出作用,以及员工参与,共同将人工智能引入劳动力市场。人工智能实现的变化越早越好,这样构建就业环境的参与者就越有可能采取主动行动。在人工智能应用推广方面,为经营型、有社会合作伙伴辅助,并可实现科学评估的实验室提供的资助可以达到上述目标。在这一行动领域,需要特别考虑到性别和多样性的问题,以及自由职业者的情况。在这一背景下,需采取以下措施:
联邦政府将建立一个德国的人工智能观测站,并努力在欧洲和国际层面建立类似的观测站。
联邦政府将对人工智能的运营情况进行公司内部审计。
联邦政府组织了一次欧洲和跨大西洋的对话,讨论在就业环境下,以人为本地应用人工智能的问题。
在国家继续教育的战略框架下,联邦政府将为开发劳动者技能提供基础广泛的工具包。
在新型专业监测分析的基础上,联邦政府将进一步制订符合数字化转型和人工智能等新技术背景的技术工人战略。
在引入人工智能应用程序时,联邦政府将确保并审查在独立就业数据保护法的框架下,企业遵守相关法律规定。
联邦政府为测试人工智能应用程序的经营型实验室提供资助,从而在工作环境中实现以人为本的人工智能的知识转移。
联邦政府将在德国东部地区建立未来中心,并将其作为示范,进行测试。
加强职业培训教育,培育专业人才和专家
教育、培训和继续教育必须适应数字化转型,以及在此框架下,人工智能应用所带来的需求变化。实际上,数字化的基本问题不是针对人工智能的。例如,教育不能完全以技术为中心,而是应该以一个成熟、独立的个体为目标,它可以处理人工智能的技术,以及道德、社会和社交层面的问题,并将其作为数字化的一部分。正是因为人类在关键能力方面优于任何技术系统(例如,概念和批判性思维、创造力、情商,以及沟通和协作的能力等),所以通过加强教育和培训,开展社会和创造性技能的教学,才能充分应用人工智能技术。
整体的观点很重要。除了学校教育、职业培训和高等教育之外,还涉及工作环境和科学研究方面的继续教育,在需要教育领域所有参与者的共同努力。
关键点中提到的方法在磋商过程中得到了确认,尤其是需要将大学中的人工智能作为多学科专业,增加人工智能的学位。在人工智能教学中应该更加重视道德和社会学背景的问题。
技术论坛和在线咨询的参与者强调,必须尽早、全面地培养基本的数字技能,例如,编程技能。在咨询过程中,尽可能提供与人工智能有关的低门槛、非正规和量身定制的(继续)教育的提议。早期、全面培养的一个前提条件是,根据需求为教育机构配备现代基础设施和数字学习服务。所有机构的教师都必须不断提高自身的数字技能。咨询过程中提及的成功的教育计划(包括黑客马拉松、研讨会、暑期学院和项目等)被作为示范,得到了广泛推广。联邦政府将在国家继续教育战略中讨论这一重要议题。此外,联邦政府还将采取以下措施:
·通过了解和参与的机会,尽早增强年轻人对人工智能的理解。
·推广教育、培训和继续教育计划,需要考虑各个特定领域的具体特点(如医疗卫生或食品供应链等)。
·在适当的情况下,将人工智能基础知识作为职业教育和培训教学内容的固定组成部分。
将人工智能用于行政管理,提高管理能力
在公共管理领域使用人工智能,可为公民和管理者提供有针对性、量身定制和低门槛的信息和服务机会。对于管理而言,采用人工智能后,需求、框架条件和可能性都会发生变化。
联邦政府希望在行政管理中,扩大人工智能的应用,并发挥其先锋作用,帮助提高行政服务的效率、质量和安全性。
未来可以提供开放的管理数据,拓展为可被无限的重复利用。
联邦政府希望为安全机构确定适当的主题领域,并资助人工智能向敏捷、可实践的方向发展。
确保数据可用,减少应用障碍
对于人工智能和机器学习的方法,数据的可用性和可靠性是关键的先决条件,也是结果质量的决定因素。同时,可用数据库的安全性也至关重要。但是,访问数据通常受限,部分是出于法律原因,部分是由于国有和私营企业的实际数据控制权。为了实现战略目标,必须大幅增加可用、可靠的高价值数据量,同时不侵犯隐私权、信息自决权或其他基本权利。
一个主要目标是大幅增加高质量数据的数量,以便用于研究和开发,以及企业和公民的社会应用。同时欧洲宪法所规定的价值需要得到捍卫,例如,基本权利(包括隐私权和信息自决权)、完善的国家福利,以及法律和民主原则。为了与世界其他地区的数据类型保持同步,联邦政府需要在欧盟范围内,思考并采取行动。欧洲开放科学云提供了首个起点。从欧洲的角度展望未来人工智能应用领域的广度,在工业和B2B环境下,机器生成的数据和特定领域的数据尤为重要。就个人数据而言,必须遵守数据保护法规:
联邦政府将研究数据分析和基础设施的必要性,以及其必需的公私合作关系。
联邦政府将密切支持欧盟委员会实施并推动建立欧洲数据空间的倡议。
联邦政府希望设置激励机制和框架条件,促进自愿、符合数据保护的数据共享行为。
联邦政府将审查在企业和科研机构之间建立的“数据伙伴关系”。
联邦政府为符合反垄断设置的“数据伙伴关系”制定标准。
联邦政府将在保障数据权益的前提下,审查可供第三方使用的公共资助研究项目的数据。
联邦政府希望通过强大的基础设施,不断加强对数据的获取能力,以便能够使用人工智能方法对其进行全面分析和评估。
联邦政府将有针对性地促进符合数据保护的培训数据库的开放。
在欧洲层面,联邦政府将鼓励有针对性地资助合成数据的匿名化、使用,以及小型数据的研究和开发,并审查国家层面的筹资机会。
联邦政府还将在联邦层面审核地方政府对数据管理额外资金的需求。
联邦政府将与数据保护监管机构和行业协会召开圆桌会议,共同制定符合隐私保护的人工智能系统开发和应用指南,并准备最佳实践和应用实例。
联邦政府将加强和扩大工业数据交换和互操作性的研究。
联邦政府将推动数据格式和接口标准的开发,并在欧洲层面促进合作。
联邦政府将有目标地促进人工智能系统在医疗卫生体系的推广和应用。
适应规则框架
在未来,人工智能应用程序不仅可用于模式识别和分析,还可用于日常生活的决策。这对政治、法律、文化和道德问题都有影响。联邦政府的目标是在人工智能技术应用领域,确保这些技术不影响德意志联邦共和国的自由民主秩序的基本价值,并且保护宪法规定的公民的基本权利,尤其是行动自由、隐私保护和信息自决的权利。
在人工智能开发和应用的整个过程中,包括人工智能的研究、开发和生产,以及基于人工智能应用程序的部署、操作、控制和治理,联邦政府将遵循伦理道德。现有的监管框架已经为高标准提供了稳定的基础。联邦政府将审查基于算法与基于人工智能的决策、服务和产品,弥补在法律框架方面的漏洞,并在必要时进行调整,核查其在非法歧视等方面的问题。
由于人工智能的渗透率日益提高,与之相关的人机交互不断强化,人工智能的开发和应用需要符合最高的安全标准。确保信息通信安全是人工智能应用或使用人工智能产品实现产品安全的关键先决条件。目前,关注的焦点集中在信息通信、医疗卫生和能源领域等重要的基础设施上,是远远不够的。因此,联邦政府应该努力为硬件和软件制造商提供帮助,促进安全设计原则。
在人工智能战略框架下,协商和参与的过程揭示了目前存在的冲突:一方面,出于投资限制的担忧而拒绝具体法规;另一方面,在文本和数据挖掘方面,需要制定非透明的人工智能决策和版权问题的相关规定。作为在线咨询的优先举措,审查和适用成为必要条件。需要对数据使用和人工智能技术的法律框架进行调整,如需要考虑人工智能系统的必要性、透明度、可追溯性和可测试性等方面。
将采取以下措施:
联邦政府将审查应用人工智能技术的数据保护法律框架。
联邦政府将审查建立人工智能系统的透明度、可追溯性和可测试性,以便有效保护人们免遭偏见、歧视、操纵或其他滥用的影响,特别是使用基于算法的预测和决策系统。
联邦政府支持创新应用的开发,前提是保障自决、社会和文化参与,以及公民隐私权。
联邦政府将调整版权法律框架,以促进文本和数据挖掘成为商业和非商业机器学习的基础。在这一过程中,需要确保权利人的相关利益,实现公平的平衡。
标准设置
谁制定标准,谁就拥有了市场决定权。国际规范和标准减少了技术壁垒,有助于开放市场和提高经济竞争力。规范和标准提高了应用程序的用户友好性,有助于提高产品和工艺的质量和安全性,提供可比性,并实现互操作性,因而是技术系统和流程的信任基础。同时,标准和规范还有助于维护监管框架的适当性和灵活性。
联邦政府承担设置经济框架的国家责任,并通过国家标准协会实施国家、欧洲和国际层面的规范和标准。但标准的制定主要是工商界的任务,而不是政府的任务。因此,在标准化和规范化机构中,必须提高企业代表的比例。最重要的问题是人工智能的术语和分类的标准化,以及道德标准。还应考虑对适合人工智能的现有标准和规范进行审查,实行欧洲标准化路线图是非常明智的。此外,还应考虑在医疗卫生领域中引入强制性标准。
联邦政府正在考虑支持专家,特别是中小企业和初创企业参与国际标准化程序的制定。
联邦政府支持人工智能的术语和分类的标准化,例如与人工智能相关的自由职业的范围以及自主学习的风险等。
在与德国标准化学会(DIN)的联合项目中,联邦政府将就人工智能领域的规范和标准制定路线图。
联邦政府与工商界、科研机构和标准化组织一起采取行动,共同加强国际标准化机构中的欧洲利益。
国内和国际层面的合作
人工智能等跨领域技术迟早会影响到科学、经济、文化、媒体、行政和公民日常生活的所有领域。发展是全球性跨越国界的,因此政府政策必须采取跨界思考和行动。除了以下提及的措施外,还需要在上述行动领域中开展跨界合作。
为此,联邦政府将采取以下措施:
与联邦政府的其他活动协调人工智能战略的措施。
就统一数字市场和欧洲人工智能战略实施背景下使用人工智能的框架条件,加强与欧盟机构特别是与欧洲委员会和其他成员国的合作。
就共同准则,与国际领先的地区和经济领域交流,并尽可能达成共识。
在经济合作的框架下,在发展中国家开展人工智能的能力建设和知识传播,从而能够利用那里的经济、社会和社交机会。
建立社会对话,进一步开发政治框架
目前,人工智能在大部分人群中都存在争议。为了将德国的人工智能研究、开发和应用推向世界领先水平,人工智能必须作为一个可理解、期望和参与的机遇。在此过程中需要深刻的社会对话、参与程序和参与机会。目标是在文化、道德、法律和制度上将人工智能锚定在社会中。在这方面,对于每一个个体和共同利益方,人工智能的机遇都必须同样突出、可信,包括社交和包容的技术设计,以及分析和确保现有可能风险的措施。联邦政府将在数字信息、教育和参与的全面和长期攻势下,开展人工智能的社会对话,共同开发人工智能等新技术。在此过程中,联邦政府将让所有群体都参与其中,特别是考虑到老年人等低于数字服务平均水平的人群。
几乎所有在线咨询过程的意见都强调了对全面信息和教育工作以及对话过程的需求。根据评估,人们对人工智能的不了解和缺乏接受可能会阻碍德国技术的发展和传播,成为创新的屏障。此外,还应将公民社会的经验知识作为创新驱动力。对此达成的共识是,知识的扩展以及媒体和技术能力对于新技术的广度和不同应用领域都非常重要。最后,应通过适当的参与性措施确保人工智能发展的社会相关性。在这个过程中,应杜绝与公民行为者的沟通仅是“接受采纳”,以便能够积极参与和共同创造。
不论在技术及其具体应用方面,还是在社会经济和社会文化互动以及跨学科技术设计方面,跨学科的科学对话都非常必要。在这方面,呼吁在国家和全球技术方面,都需要为人工智能的社会影响、跨学科对话和技术评估等领域的研究项目提供更多的资金。
作为上述措施的载体,一方面,联邦政府在解决问题,另一方面,现有的机构和组织也明确指出:从学校到社区学院乃至大学等教育机构、文化机构,如博物馆、倡议中心,以及相关能力中心、社区和门户网站,都有参与的义务。从受访者的角度来看,各联邦州尤其是市政当局也有义务开展这项工作。
需要特别强调的是,关于使用人工智能的道德界限讨论不是一次性,也尚未明确,鉴于动态的技术发展涉及工程和自然科学以及社会科学和人文科学的人,有关讨论必须持续进行。
·联邦政府将通过设立“未来数字工作与社会基金”,促进教育和采用多学科的社会导向技术。
·联邦政府将进一步把学习系统平台转变成为人工智能平台,在该平台上,政府、科研机构和企业界可以与民间组织联系起来进行交流。
·联邦政府将引导社会伙伴之间对话,将人工智能持续整合到人工劳动的环境中。
联邦政府将发布人工智能的通讯策略。