蛋白质设计师共同呼吁负责任的人工智能开发

华盛顿大学医学院蛋白质设计研究人员与来自20多个国家的100多名资深科学家一起承诺使用人工智能“造福社会，避免进行可能造成整体危害或导致技术滥用的研究”。

这份题为“蛋白质设计人工智能负责任发展的社区价值观、指导原则和承诺”的声明是在华盛顿大学蛋白质设计研究所召开的人工智能安全峰会期间和之后进行的讨论中得出的。2023年10月医学。

威斯康星大学医学生物化学教授兼研究所所长戴维·贝克(DavidBaker)表示：“我认为这对科学界来说是至关重要的一步。负责任地使用人工智能进行蛋白质设计将解锁新的疫苗、药物和可持续材料，造福世界。作为科学家，我们必须确保这种情况发生，同时最大限度地减少我们的工具被滥用造成伤害的机会。”

该声明的签署人包括加州理工学院化学工程、生物工程和生物化学教授弗朗西斯·阿诺德(FrancesArnold)，她因利用定向进化来设计酶而获得2018年诺贝尔化学奖;哈佛大学遗传学家GeorgeChurch，基因组学和合成生物学领域的顶尖专家;以及微软首席科学官兼人工智能专家埃里克·霍维茨(EricHorvitz)。

除了贝克之外，华盛顿大学的签名者还包括生物化学助理教授尼尔·金(其工作内容包括基于蛋白质的疫苗的计算设计)和药物化学助理教授兼计算肽设计专家高拉夫·巴德瓦吉(GauravBhardwaj)。

蛋白质设计技术使研究人员能够创造出定制的新蛋白质来执行专门的任务。该方法已被用于创造新药、疫苗、专用酶和生物材料。

人工智能凭借其快速分析蛋白质结构和设计新结构的能力，极大地加速了这一领域的发展，并扩大了可以从事蛋白质设计的实验室数量。但人工智能技术的强大功能和广泛应用引起了人们的担忧，即人工智能可能因粗心或恶意而被用来生产危险产品，包括生物武器。

在声明中，签署者表示，他们相信人工智能的潜在好处大于风险，但“可能需要采取主动的风险管理方法，以减轻开发人工智能技术可能被有意或无意地滥用造成伤害的可能性。”

为了防止滥用，该声明提出了一套价值观和原则，以确保蛋白质设计领域人工智能技术的负责任发展。其中包括与政府、公众和其他利益相关者合作，确保人工智能研究造福社会，筛选正在开发的合成DNA以检测可能构成危险的序列，以及公开进行研究，以便评估和审查人工智能研究，仅限制访问当人工智能系统“呈现已识别的有意义且未解决的风险”时。