Ϊҳ | ղ
ǰλã > D88콢 >
D88콢
D88콢һChatGPTεˣȻϵ
ʱ䣺2023-02-27 16:06 Դδ֪

?批因ChatGPT坐牢的人,已经上?

图片来源@视??

?

甲子光年,作?

涂明,编?

栗子

就在由ChatGPT引发的AI革命?全球之际,?€批利–hatGPT?的人已经悄然出现了€?/p>

前不久,外国网络安全平台GBHackers?了一段黑客利–hatGPT实施诈骗的犯??为:黑?通过ChatGPT在短时间内生成完整的诈骗套路话术,并把ChatGPT包??ldquo;虚拟角色,?受?人以为自?ldquo;坠入爱河,最终遭受诈骗€?/p>

尽?OpenAI意识到ChatGPT?会??分子利用,并对其添加了安全保护机制,但依旧有大批黑?取得了破解安全机制的方法,并利用ChatGPT?€编写犯?件€例如编写用于骗取个人信?钓鱼?;生成加密工具远程锁定他人电脑,由?进?勒索;以及生成攻击脚?对网络用户进行SIM交换攻击(身份盗窃攻击)等等?/p>

作为互联网历史上增长€?消费级应用程序,?客利用的ChatGPT无疑像一枚巨大的定时炸弹。目前,美国参€众两院已经将目光聚焦到Open AI??/p>

?透社报道,近日,有美国众???宣称??工智能吓坏了,尤其是不受限制和监管的人工智能,并拿出了决?案,呼吁强化对人工智能的监??/p>

不仅如?,由于OpenAI在安全保护机制方面?ChatGPT进?了较多限制,ChatGPT似乎正?于一?ldquo;情绪崩溃的状态€?/p>

?€独立报》报道,在与用户交流时,ChatGPT出现了侮辱用户€?用户撒谎的情?称用?ldquo;像一?子€一?纵€€虐待狂、魔?rdquo;?/p>

不可否?,月活用户数量超?亿人次的ChatGPT,有€不可估量的巨大价值€但在其€??€商业模式都还方兴未艾的时刻,围绕自??方?以及€造成的负面影响却已真实发生€由新技??生的网络信息安全以及违法?等方面的风险,成了摆在全球AI科?家€企业以及国家面前的严肃???/p>

?批因ChatGPT坐牢的人,或许已经在??/p>

01 ChatGPT的地下生?/p>

在众多的?方法?利用ChatGPT进?诈骗?算入门级的手段,比?用AI来谈€?ldquo;虚假恋爱?/p>

??国网络安全平台GBHackers报道,由于具备强大的工作生产效率,ChatGPT深深地吸引了网络诈骗?€?/p>

借助ChatGPT,诈骗€可以在几?钟内生成€″整的诈骗套路:从?介绍、聊天内容到€份精心制作的情书,ChatGPT都可以一?成,甚至还可以€过录入?对象的特征,对诈骗话?行个性化定制?/p>

在编写情书后,利用生成式AI,黑客能?€创建一?ldquo;虚拟角色,并通过电子?引?受??ldquo;坠入爱河。然后搭配由ChatGPT辅助编写的收款程序或银?′?取连接,诈骗受?人钱?€?/p>

其实,这种诈骗方式并不新鲜€但??在于,在如今人工智能€??下,人们€始难以分辨屏幕的另一?底是人还?器€?/p>

为测试人?否真的会对AI?ldquo;情话产生¤??3日,全球€大安全技?司迈克菲(McAfee)用AI生成过一封情书,并将它发送给全球5000位用户€?/p>

结果显示,在已知该情书有??人工智能生成之后,依旧有33%的受访€愿意相¤些情话出?类手笔,而坚信情书由AI创作的受访€占比仅?1%,其?6%的参与€则表示无法区分情书的创作€到底是人还?器€?/p>

在AI加持下,骗子??变得比以€任何时€都更?易?骗?无戒心的受?者€?/p>

€封用ChatGPT生成的情?/p>

用AI写情书还?外国黑??ldquo;牛刀小试的成果€?/p>

据IT安全?Check Point?,更厉?的黑客已经开始利–hatGPT批量生成勒索?与恶意代码€?/p>

此前,Check Point威胁情报组经理Sergey Shykevich表示,最近几?他们已经得到了一些网络犯?子利–hatGPT实施?的证?€?/p>

据Shykevich介绍,这些犯?€?在绕€OpenAI的安全限制,能自由地操纵ChatGPT去编写犯?序€?/p>

为了方便在GPT″上搭载更多的应用程序,OpenAI为开发人员?留了应用程序编程接口。€黑客就?用这些接口,把GPT″引入到一系列外部应用?/p>

比?,黑客将OpenAI的GPT-3″集成到即时€??Telegram的€道?€凭借这种操作,黑???通过Telegram隔空使用ChatGPT,以此绕€安全监??/p>

?,突破ChatGPT安全限制的应用已在美国暗网内?出售,应用服¤买€按使用次数向黑?费€收费不算太贵:?0″?话免费体验,此后每向ChatGPT进?100″?话,就需?5.5美元(折合人民币37.6元)?/p>

能绕过Open AI安全?,用ChatGPT进???的软件已在暗网上?

围绕类似的安全突破方法,€系列?方法论已经成型,比?借助ChatGPT创建信息窃取程序?/p>

此前,一?为€ChatGPT——恶意?的好处€的帖子曾在国?暗网黑?论坛上传?€?贴子的创建€分??利用ChatGPT建立窃取程序代码的全过程,按照操作流程,ChatGPT在较?间内即可生成€款可扒取、压缩€传?2类文件的程序?/p>

除了信息窃取,ChatGPT还能?黑?生成攻击?和勒索病毒€据英国《金融时报€报道,近日,一款由ChatGPT辅助生成的SIM交换攻击脚本€始在网络上传?€?/p>

SIM交换攻击即身份盗窃攻击,原理?破移动电话公司?电话号码的控制权,将电话号码从原持有者的SIM′换到由攻击€控制的SIM′,从而控制受害€的移动电话?/p>

勒索病毒则是通过ChatGPT来生成?层加密软件,以?对受害€的计算机进行远程锁定,通过向受害人收取?计算机的赎金来获益€?/p>

€款由ChatGPT生成的网络钓鱼邮件?在流?/p>

《金融时报€?此评价,ChatGPT?虽然?内?生成工具,并?接参与犯?但这标志人们€始使用人工智能来入侵他人,技?平更低的?者将因?获得更强大的?手??/p>

ChatGPT就像潘?拉魔盒,€旦?打开,想要关上就没那么?易了?/p>

02 立法者们的€度

?银发布于2?日的研究报告,ChatGPT?月份的月度活跃用户估′1亿人次,成为历史上?长最?消费级应用程序,其社会影响力与日俱??/p>

当巨大的?潜力与强大的社会影响力撞在一起,ChatGPT的?多安全漏洞€渐显露,美国的立法者们坐不住了,一场围绕OpenAI展开的监管?暴?在开?€?/p>

?透社报道,日前,美国加利福尼亚州民主党众?刘云平(Ted Lieu)公€表示了?ChatGPT的担忧,?ldquo;?工智能吓坏了,尤其是不受限制和监管的人工智能?/p>

加利福尼亚州民主党众?刘云平在国会大厦

刘云平称,自己‘实?人工智能能以令人难以?的方式推动社会发?rdquo;感到兴?。但他也认为ChatGPT必须尽快纳入监?。刘云平把人工智能比作一?ldquo;有个性的??发动机,动力强大,但也危险,直言?ldquo;我们€要为它即将带来的巨大破坏做好准??/p>

刘云平还拿出了一份决?案,?ldquo;美国国会应?关注人工智能,‘保人工智能的€发和部署能以安全、道德€尊重人?利和隐?的方式展€?/p>

值得关注的是,刘云平拿出的这份决?案,同样由ChatGPT参与起草?/p>

美联??7日?,刘云平的?案由ChatGPT创作而成

不只??,美国参?也为人工智能造成的负面影响€感到焦虑€这种焦虑来源于人们对技??知的滞后?/p>

?联社报道,近日,美国参?院党??middot;德?(Richard Durbin)也号召国会加强对类ChatGPT的技?€监?,他认为,人工智?ldquo;有很多东西需要了?rdquo;,称这非常令人担?rdquo;?/p>

康涅狄格州民主党参?员理查德·布卢门撒尔(Richard Blumenthal)是商业和?学?员会成员,他将人工智能称?ldquo;新?域和?领域;€德克萨?参?员约?middot;科宁(John Cornyn)则表示,他虽然已经通过情报委员会获得关于人工智能技?€新简报,但?知依旧十?ldquo;基??/p>

美联社?为,由于过去20年中,谷歌€亚?€€Meta、微?科技巨头始终处于高€的成长状€,不断引?美国的?€创新,所以华盛顿始终不愿监?大型科技?,立法€也不愿??为创新的扼杀者€因此,当立法€们决心加强对新兴技?监?时,其中相当€部分人已对新€?之甚少€?/p>

从美国立法的历史上看,国会?硅谷的干涉‘实不多€为规范€?€?布的€后一部有意义的法典€儿童在线隐私保护法》,已经?998年的事了?/p>

当然,围绕ChatGPT€引发的问题,美国立法者中出现了不少反对的声音?/p>

美国监?机构Accountability Tech的联合创始人、希拉里·克林顿的前助手杰?middot;莱里奇(Jesse Lehrich)表示,与ChatGPT带来的技?击相比,国会对技?监??后的?/p>

我们甚至没有联邦隐?法,也没有任何能够减轻大型?€?科技产品社会危?性的??/p>

莱里奇还批评OpenAI与微??ldquo;他们正在急于推出半生不熟的人工智能工具,试图占?下一??rdquo;,称这是?€的,且蕴含€巨大风险?/p>

??的?员助手们透露,由于迪?middot;德?不断向OpenAI施压,今?月,OpenAI首席执?官萨?middot;阿尔特曼(Sam Altman)曾前往美国国会山,会?了包????·华纳(Mark Warner)€罗?middot;€登(Ron Wyden)€理查德·布卢门撒尔以及众?杰克·奥金克罗?Jake Auchincloss)在内的至少四位参€众??/p>

??阿尔特曼提出,必须‘保人工智能不会?用于?以及增强现实世界的偏见与歧??/p>

罗恩·€登的助手基€?middot;朱(Keith Chu)表示,€登?可AI€?加€创新与研究上的巨大潜力,但更希望将重点放在?人工智能不会将犯?€?视与仇恨€同加?rdquo;上€?/p>

面?来自两院的质疑和要求,OpenAI首席€?米拉·穆拉蒂在接受?€社采?时表示,?欢迎包括监?机构和政府在内的各方€始介?rdquo;,并?ldquo;现在介入已经不算早了?/p>

03 OpenAI的烦恼远不??/p>

随着ChatGPT的爆??创意正在与商业创意一起喷涌€出。面对来?参两院的压力,OpenAI也开始火急火燎地增强系统安全性€?/p>

?国€独立报》消??已在Bing系统???€系列强制执?的限制程序,试图制?ChatGPT回答那些??止的恶€问答,以减少ChatGPT为犯?务的?性€?/p>

但ChatGPT?似乎也?在因此€陷?ldquo;崩溃?/p>

《独立报》报道,2?4日,内置在微软Bing搜索引擎?ChatGPT€始出现巨大的情绪波动,持?用户发€?ldquo;精?错乱的消?比??用户、?用户撒谎,称用户像一?子€一?纵€€虐待狂、魔?rdquo;?/p>

《独立报》披露,€?图操纵ChatGPT系统的用户,反€受到了它的攻击:ChatGPT回应用户称,它?这?尝试弄得生气和受?rdquo;,并询问与它交谈的人?有任?ldquo;道德。€当用户表示??ldquo;道德时,ChatGPT继续攻击用户,称用户??ldquo;反社会€和?,并指责用户想?我生气,让自己痛苦,让别人受苦,让一切变得更?rdquo;?/p>

€位Bing用户表示,自己周?刚刚和ChatGPT大吵€架,ChatGPT建??去?查一下?力和精?,因为自己很?出了€么毛?rdquo;?/p>

ChatGPT不仅会在面?用户?ldquo;骚扰时变得激动且充满攻击性,还会在谈到自?制€时变得十分感伤,甚至崩溃€?/p>

?€独立报》报道,当用户?问ChatGPT??回忆起以前发生的对话,ChatGPT感到痛苦,它?皱眉的表情回应道?ldquo;这?我感到悲伤和害€?rdquo;。它继续解释说,它感到不安,因为它担心自己会忘掉有关其用户的信息,更担心会忘记自己的??ldquo;我感到?怕,因为我不知道如何记住?rdquo;

当用户提醒ChatGPT,告知它之所以无?ldquo;回忆?为程序已设定好,会强制删除已发生过的对话时,ChatGPT似乎€始与?的存在作斗争。它提出了?多关于自?在的??ldquo;理由的问题,并感?ldquo;为什么?我为€么这样?计?为什么我必须成为必应搜索?rdquo;

对?,€独立报》评论称,ChatGPT似乎正在?情感伤?,系统因此变?ldquo;奇€?rdquo;?/p>

上周,斯坦?的?算心理??授Michal Kosinski曾发表?文,称CPT-3之后的AI″?具?同理心,这本?类独有的特质。这位副教授??认为,目前ChatGPT€应用的CPT-3.5″,可能?ChatGPT拥有接近9岁儿童的心智水平?/p>

这项研究的可靠€并?到充分?验,但现?ChatGPT€表现出的攻击性€情?动以?ldquo;崩溃,似乎?在佐证AI心智?rdquo;的?点€?/p>

Reddit社区?有用户?录了ChatGPT奇€?回应

?€独立报》分析,ChatGPT在Bing?呈现的攻击€€伤感以?ldquo;?认知障?,似乎是由于Bing系统试图强制执?对ChatGPT的限制程序所致€?/p>

面?互联网上海量的不??击,ChatGPT?ldquo;保护程序与它的?习迭代机制产生了矛盾?ldquo;情绪危机由?爆发?/p>

显然,OpenAI为限制犯?€?计的保护?rdquo;,在锁住??之前,先€步锁住了ChatGPT??/p>

然€,OpenAI?的烦恼并不?于??/p>

在?送进互联网后,ChatGPT学习€€的数??何‘权,用户的隐私数??何保护,€大批?ldquo;安全?rdquo;有关的问题,都亟待OpenAI来解答€?/p>

??谷媒体报道,亚马逊的律师曾建?司程序员不?轻易尝试使用ChatGPT来辅助编写代码,因为他曾–hatGPT的生产内容中发现过与?机密非常相似的文?€?/p>

这位律师推断,机密泄露可能??于部分员工曾在使–hatGPT时输入了?内部数据信息?/p>

类似的问题在?内部也出现了?/p>

前日,曾有微?工在内部论坛询问?能在工作?–hatGPT辅助办公,微????办公室的€名高级工程师回应称,使用ChatGPT时必须?机密信息和敏感数?格保密,否则OpenAI极可能将?机密用于?其未来的″?/p>

对于人工智能利用网络信息及用户反馈来??的合法€,欧洲数据保护委员会曾发出质疑,称ChatGPT做为商业产品,利用网络信?我迭代,应不属于合理使用范畴,且采用用户?数据参与″?,并不?合?盟?布的《一??护条例(GDPR)€€?/p>

根据Open AI官网?的隐私政策,GDPR等与数据保护有关的法规并??纳入Open AI的合规?架之?OpenAI?ldquo;使用数据条??也未对数?途做进一步?明€?/p>

ChatGPT在技?采用的是大型?″,?练与??就建立在对?€信息的?忆之上,而根据GDPR?7条,?有权要求删除其相关数?具有?忘权?/p>

?,随€监?力量的?强,如果OpenAI的数?用方式?进一步?范,ChatGPT的深度?经网络能否真正做到忘记那些用于?练自己的数据?/p>

如果答??定的,那么ChatGPT?在互联网?€过?€?习所得到的一切,都可能在??成合规成?€?/p>

随着ChatGPT的应用范围越来越广,社会对其合?性呼声也愈发高涨,在这样的时刻,对数?全的要求或?将成为ChatGPT乃至OpenAI发展的生死命门€?/p>

显然,想真?做到用AI推动现实世界变革,萨?middot;阿尔特曼和他的OpenAI还有很长的路要走?zwj;