ChatGPT之父阿尔特曼出席听证会,拥抱AI监管
文库划重点:与会的证人有三位,除了阿尔特曼以外,还有IBM的信任和隐私副总裁克里斯蒂娜·蒙格玛丽(Christina Montgomery),以及纽约大学名誉教授加里·马库斯(Gary Marcus)。
尖锐的问题,面对面质询,全程直播,这样的美国国会听证会堪比残酷真人秀,从比尔·盖茨、扎克伯格,到TikTok的周受资,没有一个科技大佬可以轻松地“参演”。
这一次,轮到OpenAI的CEO山姆·阿尔特曼(Sam Altman),这也是他首次出席美国国会听证会。
美东时间5月16日,美国参议院司法机构隐私、技术和法律小组委员会举行名为“AI监管:人工智能的规则”的听证会,希望能迈出AI监管的第一步。
与会的证人有三位,除了阿尔特曼以外,还有IBM的信任和隐私副总裁克里斯蒂娜·蒙格玛丽(Christina Montgomery),以及纽约大学名誉教授加里·马库斯(Gary Marcus)。
听证会一开始,美国国会参议员播放了一段特殊的录音。录音中,“他”谈论着ChatGPT为代表的新兴技术的风险。随后解释,该录音的文本由ChatGPT撰写,声音由AI工具合成。
这段演示表明了一种可能:只是用他的声音讨论ChatGPT似乎还好,但如果是谈论乌克兰战争等问题,这种以假乱真的录音足以对一位政治人物造成严重影响。
自去年11月底OpenAI推出ChatGPT以来,包括大语言模型AI绘画在内的AIGC技术引发热潮。微软、谷歌等科技头部企业展开AI军备赛,新玩家不断涌现,资金持续注入,搜索、绘画摄影、游戏等多个领域发生变化。
但问题也如影随形,ChatGPT们都尚未摆脱的“AI幻觉”使其产生错误信息,不良使用下制造的假新闻、换音换脸造假、钓鱼邮件等,都成为了AI热潮中刺耳的噪音。
尽管阿尔特曼对监管的呼吁已经持续一段时间,尽管这是一场鲜有答案的“友好讨论”、一场AI监管的前戏。作为这一切的“始作俑者”OpenAI的CEO,阿尔特曼虽然不是听证会的唯一证人,还是注定面临巨大的压力。
一
在三个小时的听证会中,阿尔特曼拿出了十足的诚意。一改往日的休闲风格,他身着深蓝色西装出席,对监管表达了强烈的欢迎。
“我认为,如果这项技术跑偏,那将产生大问题。我们希望对此直言不讳。”他表示,“我们希望合作,防止这种情况发生。”
具体来说,阿尔特曼提出了三点建议:
1. 成立一个新的政府机构,负责大型AI模型的授权,并撤销不符合政府标准的公司的相关许可证。
2. 为AI模型建立一套安全标准,包括对其危险性的评估。
3. 需要独立的专家,对模型在各种指标上的表现进行独立审计。
在应该制定什么规则应对ChatGPT等工具的问题上,这是阿尔特曼迄今为止最详细的说法。值得注意的是,阿尔特曼的提议中没有提到要求人工智能模型提供培训数据的透明度,正如在座的另一位专家证人马库斯所呼吁的那样。
在其他问题上,阿尔特曼也是正反话都说,既赞美技术,也指出威胁。
如ChatGPT们是否会取代人们的工作,阿尔特曼表示这项技术将自动消除一些工作,但是也会制造出一些新的工作。再如美国大选将近,他对AI操纵人们观点的可能性表达了担忧。
此前,阿尔特曼在不断强调这种工具带给世人的种种好处之外,也多次表达对这种技术的担忧。在今年3月的采访中,他表示自己很担心ChatGPT被滥用:“既然它们越来越擅长编写计算机代码,那么完全可以用于进攻性网络攻击。”
甚至是被“群起而攻之”,阿尔特曼也先点头再摇头。
3月底,马斯克等近千名科技人员签署公开信,呼吁在未来六个月暂停对GPT模型的训练,以免该模型对社会和人类造成潜在风险。并建议如果禁令不能迅速实施,政府应该介入。
阿尔特曼在公开信引发关注几周后表态,称对信中的部分主旨“真的同意”,但否认了OpenAI在训练GPT-5的消息,并以此反驳信中的技术细节。
在这场听证会上,阿尔特曼堪称“乖学生”的典范,在微笑间赞同、补充、自我批评、提建议。
听证会结束之后,主持会议的理查德·布鲁门萨尔(Richard Blumenthal)表示,阿尔特曼的证词和其他的那些CEO们相比简直有“日夜”之别。
“不仅仅是在言辞上,也是在实际行动上,以及他参与和承诺采取具体行动的意愿上。”“一些大型科技公司签署了法令又违反,这和山姆·阿尔特曼承诺的那种合作相去甚远。考虑到他的过往记录,我认为这是相当真诚的。”
二
很难说阿尔特曼对监管的“热情拥抱”是真情实感,还是一种合作的姿态、“以退为守”的策略,抑或二者兼备。
要说对OpenAI的批评,主要是由同样是证人的纽约大学教授马库斯提出的。他在听证会刚开始就引用了OpenAI最初的使命宣言,即不受财务压力的约束,推动AI造福全人类。如今,马库斯说,OpenAI得“感谢”其投资者微软。
“企业不负责任、部署广泛、缺乏监管以及固有的不可靠性正在形成一场完美风暴。”马库斯说。值得一提的是,马库斯当初也在那封呼吁给OpenAI按下暂停键的千人公开信上签了名。
尽管如此,总体来说,这次听证会的气氛并不紧张,议员们对阿尔特曼的态度也很友好。这与阿尔特曼的努力分不开。
阿尔特曼早已采取行动,走动关系、进行沟通。在3月的采访中,他已经透露自己与一些政府官员保持着联系。
本月早些时候,阿尔特曼和谷歌、微软的CEO一起,与美国副总统卡马拉·哈里斯(Kamala Harris)见面。而在本次听证会的前夜,阿尔特曼还私下会见了来自两党的大约60名议员。
他与议员们共进晚餐,并向他们介绍和演示ChatGPT。几位接受CNBC采访的议员都对阿尔特曼的表现给予了高度的评价。
从AI需要引入监管,到应该成立独立的机构,阿尔特曼和坐在听证会另一端的议员们都已经有了共识,而这并非听证会现场的意外之喜。
一个有意思的细节是,在大多数问题上,IBM的蒙格玛丽与阿尔特曼的主张大致相同,比如AI需要被监管但不能遏制创新,并呼吁“精准监管”AI的具体用例而非技术本身。
但是在建立新的专门的政府机构的问题上,蒙格玛丽认为没必要。而这个声明当即遭到了一名参议员的指责:“我不明白你怎么能说我们不需要一个机构来处理最具变革性的技术。”
在听证会上,甚至有参议员询问阿尔特曼是否有资格监督联邦AI监管机构,后者拒绝了,说自己“热爱现在的工作”,但承诺会向议员发送一份合适的候选人名单。
《华盛顿邮报》评论这一插曲为“许多参议员似乎急于相信阿尔特曼的自我监管能力”。
三
本次听证会的友好氛围,也来自于其性质本身。这不是一场针对某家企业的群殴,而是一场意见交流会,美国监管方下了新兴技术“酿成大错”之前就采取行动的决心。
当扎克伯格2018年首次坐上国会听证席时,他的社交媒体平台Facebook已经推出了14年。彼时Facebook身陷“剑桥丑闻”,公司首席技术官称有8700万用户受影响。
那是两天10小时的车轮战,国会议员与扎克伯格处于明显的对立状态。
同样的对立状态也出现在2019年扎克伯格欲发布Libra币后的国会听证会、2020年反垄断听证会(集齐了谷歌、Facebook、亚马逊、苹果四大科技巨头),以及前不久TikTok周受资那场充满政治意味的听证会等。
再往前追溯,1998年微软创始人兼时任CEO比尔·盖茨参加的反垄断听证会,更是充满矛盾和拉扯,甚至差点导致微软被分拆。
如今美国的立法者们看到了PC、移动互联网之后又一波科技浪潮,这一次他们想追上AI,以免重蹈覆辙。
在社交媒体时代的行动不及时与不足,成为了美国监管方的一块心病。整场听证会,不同的议员反复表达着后悔。
“230条款”在听证会中也被多次提及。该条款来自1996年美国《通讯规范法》,多年来为科技企业提供了法律保护。其主要有两方面,一是互联网公司无需为用户发布的内容担责,二是社交媒体即使删除一些其认为令人反感或不恰当的内容,也不会受到惩罚。
“其结果是互联网上充斥有毒内容、剥削儿童、为他们制造危险。国会未能在社交媒体上把握时机。现在,我们有机会在威胁和风险成为现实之前,在AI方面做到这一点。”参议员布鲁门萨尔表示。
关键企业呼吁监管、立法者有监管共识,看起来一切向好。但实际上,美国国会要落实本次听证会提出的监管建议极具挑战性。
过去,对科技企业的监管问题屡屡受到不同党派政治分歧的影响,例如“230条款”是抹去还是更新、怎么更新,至今都没有定论。
对于阿尔特曼来说,最残酷的真人秀“首演”已经完美落幕,至于AI监管究竟会去向何方,还有很长的路要走。
(原文标题:《ChatGPT之父出席听证会,拥抱AI监管》。原文编辑:王靖)
收录于哈希力量,手机站省略本文固定网址