ISEF专题讨论会：负责任地部署人工智能

Regeneron ISEF是世界上最大的先行茎竞赛，但乐趣不仅仅是看到谁带回家顶级奖项。除了介绍他们的研究和与法官会面外，今年的决赛入围者还参加了广泛的活动和活动。从总是难忘的引脚交换， 至小组讨论在跨茎领域的领导者到著名的佐治亚水族馆，今年的决赛入围者浏览了一些挤满了行程。

博览会年度编程的一大亮点是座谈会会议，决赛选手（以及他们的父母，伴侣和公平的董事）应邀请整个星期参加。涵盖各种各样的主题 - 从大学录取概述到欢迎决赛入围者118bet金宝博电话，在超级计算机的研讨会上，有超过两十个会议提供有用的方法，以及与不同领域的专家进行对话。

斯坦福大学政治学教授促进了一个引人入胜的专题讨论会，标题为“在建造之前：将公共利益放在科学技术的核心”中，促进罗布·赖希（Rob Reich），也是本书的合着者系统错误：大型技术出错的地方以及我们如何重新启动。本届会议探讨了一些道德和监管问题，这些问题是由尖端技术的发展所必需的，这些技术已经塑造了我们生活的许多方面。

从基因编辑技术CRISPR到GPT-3赖希（Reich）是一种具有不可思议的语言和模仿人类写作能力的人工智能，它考虑了直到最近在科幻小说中才有可能的技术发展类型。赖希（Reich）言论的中心前提是对一个清醒的事实的认识：这些技术改变世界的潜力通常与他们偶然地部署的巨大伤害的能力相匹配。

根据赖希（Reich）的估计，这不仅是科学家和发明家，而且是整个社会面临的挑战。当我们，尤其是下一代创新者（包括今年的ISEF决赛选手）时，我们还必须制定标准，以确保能够负责任地使用强大的新工具。

罗布发表讲话后，决赛入围者有机会提出问题。这是发人深省的会议中的一个小摘录：

ISEF决赛选手问题：“技术可能会产生伪造事件的视频编辑。当然，这可能会对司法系统产生巨大影响。您是否建议我们专门尝试从人类技术范围中删除这些元素，因为它们会产生如此巨大的影响？还是我们如何找到减轻这些影响的方法？”

罗布·赖希（Rob Reich）：“像GPT-3这样的模型在生产人类水平质量的文本方面表现出令人难以置信的力量。在我的书中系统错误，在GPT-3撰写的上一章中有一个段落 - 这是一个复活节彩蛋。识别并不容易，因为GPT-3确实是如此强大。

“我试图回答这个问题的尝试是，您不希望AI科学家决定如何发布模型或考虑这种模型的应用。您想结合一个社会科学培训和道德培训的方向，这些培训和道德培训在创建时可能存在于实验室中。例如，在斯坦福大学，有一个研究项目称为基础模型研究中心- 发现模型是斯坦福大学所说的这些大语言模型。I’m one of the co-directors, along with someone who’s a natural language processing expert, along with a whole host of other social scientists who are studying the ways in which these language models can reproduce stereotypes, or amplify hate speech or, even worse, potentially mobilize a disinformation campaign around COVID.

“采取多学科的方法来思考这项技术绝对至关重要，以及我们用来将AI科学家，公司及其他地区的负责任规范结合在一起的社会技术基准。我们只是发现了这项技术的潜力，但不应仅留给技术人员来回答这些问题。”

随着越来越多的创新者和研究人员使用机器学习和人工智能等工具为问题开发解决方案，有关技术如何对人类有价值并最能融入我们的社会的问题从未如此重要。面对这些困难的问题，我们发现了许多ISEF参与者的希望，他们对STEM的热情仅与他们的动力相匹配，以使世界变得更美好。

感谢Rob和其他为今年的研讨会做出贡献的所有人，感谢您与今年的决赛入围者和与会者分享您的见解。