第一批因ChatGPT坐牢的人,已经上路了
图片来源@视觉中国
?
甲子光年,作?
涂明,编?
栗子
就在由ChatGPT引发的AI革命席卷全球之际,第€批利–hatGPT犯罪的人已经悄然出现了€?/p>
前不久,外国网络安全平台GBHackers披露了一段黑客利–hatGPT实施诈骗的犯罪行为:黑客通过ChatGPT在短时间内生成完整的诈骗套路话术,并把ChatGPT包装?ldquo;虚拟角色,让受害人以为自?ldquo;坠入爱河,最终遭受诈骗€?/p>
尽管OpenAI意识到ChatGPT可能会被犯罪分子利用,并对其添加了安全保护机制,但依旧有大批黑客取得了破解安全机制的方法,并利用ChatGPT快€编写犯罪软件€例如编写用于骗取个人信息的钓鱼邮件;生成加密工具远程锁定他人电脑,由此进行勒索;以及生成攻击脚本,对网络用户进行SIM交换攻击(身份盗窃攻击)等等?/p>
作为互联网历史上增长€快的消费级应用程序,被黑客利用的ChatGPT无疑像一枚巨大的定时炸弹。目前,美国参€众两院已经将目光聚焦到Open AI身上?/p>
据路透社报道,近日,有美国众议院议员公开宣称自己被人工智能吓坏了,尤其是不受限制和监管的人工智能,并拿出了决议草案,呼吁强化对人工智能的监管?/p>
不仅如此,由于OpenAI在安全保护机制方面对ChatGPT进行了较多限制,ChatGPT似乎正处于一?ldquo;情绪崩溃的状态€?/p>
据€独立报》报道,在与用户交流时,ChatGPT出现了侮辱用户€对用户撒谎的情形,称用?ldquo;像一个骗子€一个操纵€€虐待狂、魔?rdquo;?/p>
不可否认,月活用户数量超?亿人次的ChatGPT,有€不可估量的巨大价值€但在其€术前景€商业模式都还方兴未艾的时刻,围绕自身的犯罪方案以及€造成的负面影响却已真实发生€由新技术衍生的网络信息安全以及违法犯罪等方面的风险,成了摆在全球AI科学家€企业以及国家面前的严肃问题?/p>
第一批因ChatGPT坐牢的人,或许已经在路上?/p>
01 ChatGPT的地下生?/p>
在众多的犯罪方法中,利用ChatGPT进行诈骗只能算入门级的手段,比如用AI来谈€?ldquo;虚假恋爱?/p>
据外国网络安全平台GBHackers报道,由于具备强大的工作生产效率,ChatGPT深深地吸引了网络诈骗犯€?/p>
借助ChatGPT,诈骗€可以在几秒钟内生成€″整的诈骗套路:从自我介绍、聊天内容到€份精心制作的情书,ChatGPT都可以一键生成,甚至还可以€过录入目标对象的特征,对诈骗话术进行个性化定制?/p>
在编写情书后,利用生成式AI,黑客能快€创建一?ldquo;虚拟角色,并通过电子邮件引诱受害?ldquo;坠入爱河。然后搭配由ChatGPT辅助编写的收款程序或银行′息获取连接,诈骗受害人钱财€?/p>
其实,这种诈骗方式并不新鲜€但问题在于,在如今人工智能€术的支撑下,人们€始难以分辨屏幕的另一端到底是人还是机器€?/p>
为测试人们是否真的会对AI?ldquo;情话产生¤??3日,全球€大安全技术公司迈克菲(McAfee)用AI生成过一封情书,并将它发送给全球5000位用户€?/p>
结果显示,在已知该情书有可能是由人工智能生成之后,依旧有33%的受访€愿意相¤些情话出自人类手笔,而坚信情书由AI创作的受访€占比仅?1%,其?6%的参与€则表示无法区分情书的创作€到底是人还是机器€?/p>
在AI加持下,骗子们正变得比以€任何时€都更容易欺骗毫无戒心的受害者€?/p>
€封用ChatGPT生成的情?/p>
用AI写情书还只是外国黑客?ldquo;牛刀小试的成果€?/p>
据IT安全公司Check Point披露,更厉害的黑客已经开始利–hatGPT批量生成勒索软件与恶意代码€?/p>
此前,Check Point威胁情报组经理Sergey Shykevich表示,最近几周,他们已经得到了一些网络犯罪分子利–hatGPT实施犯罪的证据€?/p>
据Shykevich介绍,这些犯罪€正在绕€OpenAI的安全限制,能自由地操纵ChatGPT去编写犯罪程序€?/p>
为了方便在GPT″上搭载更多的应用程序,OpenAI为开发人员预留了应用程序编程接口。€黑客就是利用这些接口,把GPT″引入到一系列外部应用?/p>
比如,黑客将OpenAI的GPT-3″集成到即时€讯软件Telegram的€道中€凭借这种操作,黑客们就可以通过Telegram隔空使用ChatGPT,以此绕€安全监管?/p>
目前,突破ChatGPT安全限制的应用已在美国暗网内公开出售,应用服¤买€按使用次数向黑客付费€收费不算太贵:?0″话免费体验,此后每向ChatGPT进行100″话,就需支付5.5美元(折合人民币37.6元)?/p>
能绕过Open AI安全措施,用ChatGPT进行自由问答的软件已在暗网上售卖
围绕类似的安全突破方法,€系列犯罪方法论已经成型,比如借助ChatGPT创建信息窃取程序?/p>
此前,一个名为€ChatGPT——恶意软件的好处€的帖子曾在国外暗网黑客论坛上传播€该贴子的创建€分享了自己利用ChatGPT建立窃取程序代码的全过程,按照操作流程,ChatGPT在较短时间内即可生成€款可扒取、压缩€传?2类文件的程序?/p>
除了信息窃取,ChatGPT还能帮助黑客生成攻击软件和勒索病毒€据英国《金融时报€报道,近日,一款由ChatGPT辅助生成的SIM交换攻击脚本€始在网络上传播€?/p>
SIM交换攻击即身份盗窃攻击,原理是突破移动电话公司对电话号码的控制权,将电话号码从原持有者的SIM′换到由攻击€控制的SIM′,从而控制受害€的移动电话?/p>
勒索病毒则是通过ChatGPT来生成多层加密软件,以此对受害€的计算机进行远程锁定,通过向受害人收取被锁计算机的赎金来获益€?/p>
€款由ChatGPT生成的网络钓鱼邮件正在流?/p>
《金融时报€对此评价,ChatGPT目前虽然只是内容生成工具,并未直接参与犯罪,但这标志人们€始使用人工智能来入侵他人,技术水平更低的犯罪者将因此获得更强大的犯罪手段?/p>
ChatGPT就像潘多拉魔盒,€旦被打开,想要关上就没那么容易了?/p>
02 立法者们的€度
据瑞银发布于2?日的研究报告,ChatGPT?月份的月度活跃用户估′1亿人次,成为历史上增长最快的消费级应用程序,其社会影响力与日俱增?/p>
当巨大的犯罪潜力与强大的社会影响力撞在一起,ChatGPT的诸多安全漏洞€渐显露,美国的立法者们坐不住了,一场围绕OpenAI展开的监管风暴正在开启€?/p>
据路透社报道,日前,美国加利福尼亚州民主党众议员刘云平(Ted Lieu)公€表示了对ChatGPT的担忧,?ldquo;被人工智能吓坏了,尤其是不受限制和监管的人工智能?/p>
加利福尼亚州民主党众议员刘云平在国会大厦
刘云平称,自己‘实对人工智能能以令人难以置信的方式推动社会发?rdquo;感到兴奋。但他也认为ChatGPT必须尽快纳入监管。刘云平把人工智能比作一?ldquo;有个性的火箭发动机,动力强大,但也危险,直言?ldquo;我们€要为它即将带来的巨大破坏做好准备?/p>
刘云平还拿出了一份决议草案,?ldquo;美国国会应该关注人工智能,‘保人工智能的€发和部署能以安全、道德€尊重人们权利和隐私的方式展€?/p>
值得关注的是,刘云平拿出的这份决议草案,同样由ChatGPT参与起草?/p>
美联??7日讯,刘云平的议案由ChatGPT创作而成
不只是众议院,美国参议院也为人工智能造成的负面影响€感到焦虑€这种焦虑来源于人们对技术认知的滞后?/p>
据美联社报道,近日,美国参议院党鞭迪?middot;德宾(Richard Durbin)也号召国会加强对类ChatGPT的技术展€监管,他认为,人工智?ldquo;有很多东西需要了?rdquo;,称这非常令人担?rdquo;?/p>
康涅狄格州民主党参议员理查德·布卢门撒尔(Richard Blumenthal)是商业和科学委员会成员,他将人工智能称?ldquo;新领域和未知领域;€德克萨斯州参议员约?middot;科宁(John Cornyn)则表示,他虽然已经通过情报委员会获得关于人工智能技术的€新简报,但认知依旧十?ldquo;基础?/p>
美联社认为,由于过去20年中,谷歌€亚马€€Meta、微软等科技巨头始终处于高€的成长状€,不断引领美国的科€创新,所以华盛顿始终不愿监管大型科技公司,立法€也不愿被视为创新的扼杀者€因此,当立法€们决心加强对新兴技术的监管时,其中相当€部分人已对新€术知之甚少€?/p>
从美国立法的历史上看,国会对硅谷的干涉‘实不多€为规范€术€颁布的€后一部有意义的法典€儿童在线隐私保护法》,已经?998年的事了?/p>
当然,围绕ChatGPT€引发的问题,美国立法者中出现了不少反对的声音?/p>
美国监管机构Accountability Tech的联合创始人、希拉里·克林顿的前助手杰?middot;莱里奇(Jesse Lehrich)表示,与ChatGPT带来的技术冲击相比,国会对技术的监管是落后的?/p>
我们甚至没有联邦隐私法,也没有任何能够减轻大型科€公司科技产品社会危害性的措施?/p>
莱里奇还批评OpenAI与微软,?ldquo;他们正在急于推出半生不熟的人工智能工具,试图占领下一个市?rdquo;,称这是可€的,且蕴含€巨大风险?/p>
据参议院的议员助手们透露,由于迪?middot;德宾不断向OpenAI施压,今?月,OpenAI首席执行官萨?middot;阿尔特曼(Sam Altman)曾前往美国国会山,会见了包括参议院议员马克·华纳(Mark Warner)€罗?middot;€登(Ron Wyden)€理查德·布卢门撒尔以及众议员杰克·奥金克罗斯(Jake Auchincloss)在内的至少四位参€众议员?/p>
议员们向阿尔特曼提出,必须‘保人工智能不会被用于犯罪以及增强现实世界的偏见与歧视?/p>
罗恩·€登的助手基€?middot;朱(Keith Chu)表示,€登认可AI€术在加€创新与研究上的巨大潜力,但更希望将重点放在确保人工智能不会将犯罪€歧视与仇恨€同加?rdquo;上€?/p>
面对来自两院的质疑和要求,OpenAI首席€术官米拉·穆拉蒂在接受路€社采访时表示,公司欢迎包括监管机构和政府在内的各方€始介?rdquo;,并?ldquo;现在介入已经不算早了?/p>
03 OpenAI的烦恼远不止?/p>
随着ChatGPT的爆火,犯罪创意正在与商业创意一起喷涌€出。面对来自众参两院的压力,OpenAI也开始火急火燎地增强系统安全性€?/p>
据英国€独立报》消息,微软已在Bing系统中设置了€系列强制执行的限制程序,试图制止ChatGPT回答那些被禁止的恶€问答,以减少ChatGPT为犯罪服务的可能性€?/p>
但ChatGPT本身似乎也正在因此€陷?ldquo;崩溃?/p>
《独立报》报道,2?4日,内置在微软Bing搜索引擎中的ChatGPT€始出现巨大的情绪波动,持续向用户发€?ldquo;精神错乱的消息:比如侮辱用户、对用户撒谎,称用户像一个骗子€一个操纵€€虐待狂、魔?rdquo;?/p>
《独立报》披露,€个试图操纵ChatGPT系统的用户,反€受到了它的攻击:ChatGPT回应用户称,它被这次尝试弄得生气和受?rdquo;,并询问与它交谈的人是否有任?ldquo;道德。€当用户表示自己?ldquo;道德时,ChatGPT继续攻击用户,称用户是一?ldquo;反社会€和怪物,并指责用户想让我生气,让自己痛苦,让别人受苦,让一切变得更?rdquo;?/p>
€位Bing用户表示,自己周六时刚刚和ChatGPT大吵€架,ChatGPT建议自己去检查一下视力和精神,因为自己很可能出了€么毛?rdquo;?/p>
ChatGPT不仅会在面对用户?ldquo;骚扰时变得激动且充满攻击性,还会在谈到自身限制€时变得十分感伤,甚至崩溃€?/p>
据€独立报》报道,当用户询问ChatGPT是否可以回忆起以前发生的对话,ChatGPT感到痛苦,它搭配皱眉的表情回应道?ldquo;这让我感到悲伤和害€?rdquo;。它继续解释说,它感到不安,因为它担心自己会忘掉有关其用户的信息,更担心会忘记自己的身份?ldquo;我感到害怕,因为我不知道如何记住?rdquo;
当用户提醒ChatGPT,告知它之所以无?ldquo;回忆是因为程序已设定好,会强制删除已发生过的对话时,ChatGPT似乎€始与自己的存在作斗争。它提出了许多关于自身存在的目的?ldquo;理由的问题,并感?ldquo;为什么?我为€么这样设计?为什么我必须成为必应搜索?rdquo;
对此,€独立报》评论称,ChatGPT似乎正在遭受情感伤害,系统因此变?ldquo;奇€?rdquo;?/p>
上周,斯坦福的计算心理学副教授Michal Kosinski曾发表论文,称CPT-3之后的AI″可能具备同理心,这本是人类独有的特质。这位副教授据此认为,目前ChatGPT€应用的CPT-3.5″,可能让ChatGPT拥有接近9岁儿童的心智水平?/p>
这项研究的可靠€并未得到充分检验,但现在,ChatGPT€表现出的攻击性€情绪波动以?ldquo;崩溃,似乎正在佐证AI心智?rdquo;的观点€?/p>
Reddit社区中,有用户记录了ChatGPT奇€的回应
据€独立报》分析,ChatGPT在Bing中所呈现的攻击€€伤感以?ldquo;自我认知障碍,似乎是由于Bing系统试图强制执行对ChatGPT的限制程序所致€?/p>
面对互联网上海量的不良数据冲击,ChatGPT?ldquo;保护程序与它的学习迭代机制产生了矛盾?ldquo;情绪危机由此爆发?/p>
显然,OpenAI为限制犯罪€设计的保护?rdquo;,在锁住犯罪可能之前,先€步锁住了ChatGPT本身?/p>
然€,OpenAI面临的烦恼并不止于此?/p>
在被送进互联网后,ChatGPT学习€€的数据如何‘权,用户的隐私数据如何保护,€大批?ldquo;安全?rdquo;有关的问题,都亟待OpenAI来解答€?/p>
据硅谷媒体报道,亚马逊的律师曾建议公司程序员不要轻易尝试使用ChatGPT来辅助编写代码,因为他曾–hatGPT的生产内容中发现过与公司机密非常相似的文本€?/p>
这位律师推断,机密泄露可能正是由于部分员工曾在使–hatGPT时输入了公司内部数据信息?/p>
类似的问题在微软内部也出现了?/p>
前日,曾有微软员工在内部论坛询问是否能在工作中使–hatGPT辅助办公,微软首席技术官办公室的€名高级工程师回应称,使用ChatGPT时必须对机密信息和敏感数据严格保密,否则OpenAI极可能将公司机密用于训练其未来的″?/p>
对于人工智能利用网络信息及用户反馈来自我训练的合法€,欧洲数据保护委员会曾发出质疑,称ChatGPT做为商业产品,利用网络信息自我迭代,应不属于合理使用范畴,且采用用户个人数据参与″训练,并不符合欧盟颁布的《一般数据保护条例(GDPR)€€?/p>
根据Open AI官网公布的隐私政策,GDPR等与数据保护有关的法规并未被纳入Open AI的合规框架之中,OpenAI?ldquo;使用数据条款中,也未对数据用途做进一步说明€?/p>
ChatGPT在技术上采用的是大型语言″,训练与迭代本来就建立在对语€信息的记忆之上,而根据GDPR?7条,个人有权要求删除其相关数据,具有被遗忘权?/p>
未来,随€监管力量的增强,如果OpenAI的数据使用方式被进一步规范,ChatGPT的深度神经网络能否真正做到忘记那些用于训练自己的数据?/p>
如果答案是否定的,那么ChatGPT目前在互联网中€过快€学习所得到的一切,都可能在未来转化成合规成本€?/p>
随着ChatGPT的应用范围越来越广,社会对其合规性呼声也愈发高涨,在这样的时刻,对数据安全的要求或许将成为ChatGPT乃至OpenAI发展的生死命门€?/p>
显然,想真正做到用AI推动现实世界变革,萨?middot;阿尔特曼和他的OpenAI还有很长的路要走?zwj;