个中包括承诺改进人工智能系统的测试和透明度,以及分享有关潜在危害和风险的信息。
在志愿承诺发布一周年之际,《麻省理工技能评论》向签署承诺的人工智能公司讯问了他们迄今为止的事情细节。他们的回答表明,科技行业取得了一些可喜的进展,但也存在重大警告。
这些志愿承诺是在天生式人工智能狂热达到顶峰之时做出的,各家公司竞相推出自己的模型,并使其比竞争对手的模型更大、更好。与此同时,我们开始看到版权和深度假造等轇轕。杰弗里·辛顿 (Geoffrey Hinton )等有影响力的科技人士也发出呼吁,担心人工智能可能对人类的生存构成威胁。溘然之间,每个人都在评论辩论确保人工智能安全的急迫须要,各地的监管机构都面临着采纳行动的压力。

到最近,人工智能的发展才刚刚开始。传统上,美国一贯不愿意监管其科技巨子,而是依赖它们进行自我监管。志愿承诺便是一个很好的例子:它们是美国人工智能领域最早的一些规定性规则,但它们仍旧是志愿的,无法逼迫实行。此后,白宫发布了一项行政命令,扩大了承诺的范围,也适用于其他科技公司和政府部门。
人工智能和数字政策中央总裁兼研究主任 Merve Hickok 应《麻省理工技能评论》的哀求审阅了这些公司的回答,他表示:“一年过去了,我们看到他们针对自己的产品采纳了一些良好做法,但就良好管理或保护普遍权利而言,他们还远远没有达到我们须要的水平。”Hickok 补充说,个中许多公司连续对其产品进行未经证明的宣扬,例如声称它们可以超越人类的智力和能力。
从科技公司的回答中可以看出一个趋势,即公司正在加大力度寻求技能修复,例如红队测试(即人类探测人工智能模型的毛病)和人工智能天生内容的水印。
但斯坦福根本模型研究中央社会卖力人里希·博马萨尼 (Rishi Bommasani) 表示,目前尚不清楚这些承诺发生了哪些变革,也不清楚这些公司是否会履行这些方法,他也审查了《麻省理工技能评论》的回应。
在人工智能领域,一年是一段很长的韶光。自签署志愿承诺以来,Inflection AI 创始人Mustafa Suleyman已离开公司并加入微软,领导该公司的人工智能事情。Inflection 谢绝置评。
白宫发言人 Robyn Patterson 表示:“我们很感激各大公司在履行志愿承诺以及行政命令哀求的方面取得了进展。”但 Patterson 补充道,总统连续呼吁国会通过两党共同制订的人工智能立法。
加州大学伯克利分校 CITRIS 政策实验室主任布兰迪·诺内克 (Brandie Nonnecke) 表示,在没有全面的联邦立法的情形下,美国现在能做的最好的事情便是哀求企业履行这些志愿承诺。
但须要牢记的是,“这些公司实质上仍旧是在编写评估考试,”Nonnecke 说道。“以是我们必须仔细考虑他们是否……以一种真正严格的办法验证自己。”