用于评估快速发展的数字及相关技术的框架：人工智能、大型语言模型等

• 介绍 
• 背景 
• 分析框架的开发 
• 使用分析框架 
• 评估新技术时要考虑的维度 
• 前进的道路 
• 致谢

快速新兴的技术在治理和潜在监管方面提出了具有挑战性的问题。 关于人工智能（AI）及其使用的政策和公众辩论使这些问题成为人们关注的焦点。 虽然联合国教科文组织、经合组织和其他组织已经颁布了人工智能的广泛原则，并且关于该技术的全球或司法监管的讨论也刚刚起步，但高级原则的制定与将其纳入监管、政策、法律和法规之间存在本体论差距。治理和管理方法。 这就是非政府科学界可以发挥特殊作用的地方。 

许多学者和政策专家建议，国际科学理事会（ISC）——其成员来自社会科学和自然科学领域——建立一个流程，以制定和维护风险、收益、风险和收益的带注释的框架/清单。与快速发展的数字技术相关的威胁和机遇，包括但不限于人工智能。 该清单的目的是向所有利益相关者（包括政府、贸易谈判代表、监管机构、民间社会和行业）通报未来可能出现的情况，并框架他们如何考虑机会、收益、风险和其他问题。 

产出不会充当评估机构，而是作为一个适应性和不断发展的分析框架，可以支持包括政府和多边体系在内的利益攸关方可能制定的任何评估和监管流程。 理想情况下，任何分析框架的制定都应独立于政府和行业的主张，因为它们的利益是可以理解的。 它的视角也必须最大限度地多元化，从而涵盖技术及其影响的所有方面。 

本讨论文件提供了初步框架的轮廓，为正在进行的与人工智能相关的多个全球和国家讨论提供信息。 

具有人工智能复杂性和影响力的技术的迅速出现正在推动许多声称具有巨大好处的说法。 然而，它也引发了对从个人到地缘战略层面的重大风险的担忧。 许多讨论往往发生在观点范围的极端，因此需要采取更务实的方法。 人工智能技术将继续发展，历史表明，几乎每项技术都有有益和有害的用途。 因此，问题是：我们如何才能从这项技术中获得有益的结果，同时降低有害后果的风险，其中一些后果可能是严重的？ 

未来总是不确定的，但关于人工智能和生成式人工智能，有足够的可信和专家的声音来鼓励采取相对预防性的方法。 此外，还需要一种系统方法，因为人工智能是一类被多种类型的用户广泛使用和应用的技术。 这意味着在考虑人工智能对个人、社会生活、公民生活、社会生活以及全球背景的影响时，必须考虑到整个背景。 

与大多数过去的技术不同，数字及相关技术从开发到发布的时间很短，很大程度上是由制作公司或机构的利益驱动的。 人工智能正在迅速普及； 有些特性可能只有在发布后才会显现出来，并且该技术可能具有恶意和善意的应用。 重要的价值维度将影响任何使用的感知方式。 此外，可能还有地缘战略利益在起作用。 

迄今为止，虚拟技术的监管很大程度上是从“原则”和自愿合规的角度来看待的。 然而，最近，讨论转向了国家和多边治理问题，包括监管和其他政策工具的使用。 支持或反对人工智能的主张往往是夸张的，而且鉴于该技术的性质，很难评估。 建立有效的全球或国家技术监管体系将具有挑战性，从发明者到生产者，到用户，到政府和多边体系，整个链条上需要多层风险知情决策。 

尽管教科文组织、经合组织和欧盟委员会等已颁布了高层原则，并且就潜在监管问题正在进行各种高层讨论，但这些原则与治理或监管框架之间存在巨大的本体论差距。 监管机构可能需要考虑的因素分类是什么？ 考虑到这些技术的广泛影响，狭隘的框架是不明智的。 这种潜力一直是许多正面和负面评论的主题。

ISC 是整合自然科学和社会科学的主要全球非政府组织。 其全球和学科影响力意味着它有能力提供独立且全球相关的建议，为未来的复杂选择提供信息，特别是因为当前这一领域的声音主要来自行业或主要技术强国。 经过近几个月的广泛讨论，包括考虑非政府评估流程，ISC 得出的结论是，其最有用的贡献将是产生和维护一个适应性分析框架，该框架可用作各方讨论和决策的基础。所有利益相关者，包括在出现的任何正式评估过程中。 

该框架将采取政府和非政府机构均可使用的总体清单的形式。 该框架通过涵盖人类和社会福祉以及经济、政治、环境和安全等外部因素的广泛视角，识别和探索人工智能及其衍生品等技术的潜力。 根据上下文，清单的某些方面可能比其他方面更相关，但如果考虑所有领域，则更有可能做出更好的决策。 这是清单方法的内在价值。 

拟议的框架源自之前的工作和思考，包括国际政府科学咨询网络 (INGSA) 的数字福祉报告¹ 和经合组织人工智能分类框架² 呈现人工智能的潜在机遇、风险和影响的整体。 鉴于其时间和背景，这些以前的产品在其意图上受到更多限制，因此需要一个总体框架来呈现短期和长期的全方位问题。 

虽然是为了考虑人工智能而开发的，但该分析框架可以应用于任何快速新兴的技术。 这些问题大致分为以下几类，以供进一步审查： 

• 福祉（包括个人或自我的福祉、社会和社会生活以及公民生活） 
• 贸易经济 
• 环境 
• 地缘战略和地缘政治 
• 技术（系统特性、设计和使用） 

上述每个类别的注意事项列表及其各自的机会和后果均包含在内。 有些与人工智能的特定实例或应用相关，而另一些则是通用的，与平台或用途无关。 这里所包含的任何单一考虑因素都不应该被视为优先事项，因此，所有的考虑因素都应该被审查。 

该框架可以但不限于以下方式使用： 

• 通过建立经过验证的考虑因素的通用分类法来弥合原则和评估之间的差距，相关利益攸关方可以将其用作告知和形成进一步思考的基础，包括当局可能制定的任何评估框架。 

• 为影响评估提供信息。 欧盟人工智能法案要求提供人工智能工具或在其流程中采用人工智能的组织进行影响评估，以识别其举措的风险并应用适当的风险管理方法。 这里提出的框架可以用作此的基础。 

• 加强指导和管理人工智能使用所需的道德原则。 该框架可以通过提供灵活的基础来实现这一点，在此基础上可以开发值得信赖的系统，并确保合法、道德、稳健和负责任地使用该技术。 这些原则可以根据该框架中提出的全方位影响进行测试。 
• 促进对现有措施（即监管、立法、政策）的盘点，并找出需要进一步考虑的差距。 

• 该框架与技术及其使用无关。 因此，它可以用于合成生物学等截然不同的领域。 

下表是分析框架维度的早期塑造。 根据技术及其用途，某些组件将比其他组件更相关。 提供的示例是为了说明为什么每个域可能都很重要； 在具体情况下，该框架需要根据具体情况进行扩展。 区分平台开发和特定应用程序中可能出现的一般问题也很重要。  

关键 描述符的来源

纯文本：
格鲁克曼，P. 和艾伦，K. 2018。 了解快速数字化和相关转型背景下的福祉。 英格萨。 https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf 

粗体：
经合组织。 2022 年。 经合组织人工智能系统分类框架。 经合组织数字经济论文，第 323 期，经合组织出版社，巴黎。 https://oecd.ai/en/classification 

斜体文字:
新描述符（来自多个来源） 

根据对本讨论文件的回应，ISC 将成立一个专家工作组，以进一步制定或修订上述分析框架，利益相关者可以通过该框架全面审视平台或使用维度的任何重大发展。 该工作组将在学科、地域和人口方面具有多样性，其专业知识涵盖从技术评估到公共政策、从人类发展到社会学以及未来和技术研究。 

要参与此讨论文件，请访问 Council.science/publications/framework-digital-technologies 

这篇论文的起草过程中咨询了很多人，该论文由 ISC 主席 Peter Gluckman 爵士和前国防部首席科学家、现任新西兰奥克兰大学高级研究员 Hema Sridhar 起草。 

我们特别感谢英国皇家学会前主席、剑桥大学生存风险研究中心联合创始人马丁·里斯勋爵； Shivaji Sondhi 教授，牛津大学物理学教授； K Vijay Raghavan 教授，印度政府前首席科学顾问； 联合国秘书长技术特使阿曼迪普·辛格·吉尔（Amandeep Singh Gill）； Seán Óh Éigeartaigh 博士，剑桥大学生存风险研究中心执行主任； 英国皇家学会高级政策顾问 Amanda-June Brawner 和国际事务主任 Ian Wiggins； Jerome Duberry 博士、Marie-Laure Salles 博士，日内瓦研究生院院长； Chor Pharn Lee 先生，新加坡总理办公室战略未来中心； Barend Mons 和 Simon Hodson 博士，数据委员会 (CoDATA)； Yuko Harayama 教授，日本； Rémi Quirion 教授，INGSA 主席； 克莱尔·克雷格 (Claire Craig) 博士，牛津大学、政府科学办公室前瞻主管； 以及联合国秘书长科学顾问委员会和蒙特利尔大学的 Yoshua Bengio 教授。 清单方法得到了普遍认可，并强调了 ISC 任何行动的及时性。