火爆出圈的“ChatGPT”,是否将构成新的网络安全威胁?

2023-02-20 7,756
它可以写任何东西
也拥有无尽想象
好的,或坏的



近日,各大社交网站频频刷屏,登上多条热搜的“ChatGPT”究竟是什么?


1.png

据悉,ChatGPT是美国人工智能研究实验室OpenAI开发的一种全新聊天机器人模型,利用自然语言处理(NLP)来分析人工输入并产生输出,模仿人类的自然对话,还能根据聊天的上下文进行互动,并协助人类完成一系列任务。它可以写任何东西--信件、插图、歌词、研究论文、食谱、诗歌、论文、甚至软件代码。


不少和ChatGPT“聊过天”的网友纷纷感叹,“只有你想不到,没有ChatGPT办不成的”。


2.png


自从2022年11月30日OpenAI首次公测ChatGPT至今,短短三个月内活跃用户就突破了1亿。2月7日,ChatGPT"因访问量激增而宕机"的消息一出,更是引发了全球的高度关注。


ChatGPT的走红,一方面是人工智能的高速发展的佐证,但是另一方面许多的质疑和争议也随之而来。


ChatGPT已经影响到众多领域,如:搜索引擎、内容创作、教育体系、平面设计、数据分析、科学研究领域等。


有调查显示,美国89%的大学生都在用ChatGPT做作业。目前,纽约、洛杉矶等城市,已开始禁止在教室和任何学校设备上使用ChatGPT。


而在学术界也有诸多担忧,ChatGPT强大的语言理解和学习能力,使其产出的学术摘要可以骗过期刊审稿人。目前,已有多家知名学术期刊正在更新编辑规则,禁止将ChatGPT列为论文合著者,且不允许在论文中使用其所生产的文本。就连《Science》、《Nature》两大期刊亦针对ChatGPT更新了投稿规则。迫于舆论压力,OpenAI也在2月推出了AI创作检测工具AI Text Classifier。


3.png


对于网络安全行业而言,ChatGPT似乎也将带来举足轻重的影响。


在首个公开的概念验证中,纽约大学教授Brendan Dolan-Gavitt使用ChatGPT来利用缓冲区溢出漏洞。其他安全专家的ChatGPT应用案例包括以闪电般的速度编写恶意软件以及制作令人信服、语法正确的网络钓鱼电子邮件。


另外,黑莓(Black Berry)的一份报告调查了英国500名IT行业决策者对ChatGPT这项革命性技术的看法,发现超过四分之三(76%)的人认为,外国已经在针对其他国家的网络战争中使用ChatGPT。近一半(48%)的人认为,2023年,将会出现有人恶意使用ChatGPT而造成“成功”的网络攻击


威胁情报公司Recorded Future则在暗网和内部论坛中,发现了1500多条关于使用ChatGPT开发恶意软件、创建概念验证代码的参考资料,并且其中大部分代码都公开可用。

 4.png


已经有无数例子说明ChatGPT有能力改变各种黑帽子游戏规则。利用恶意软件生成自动化、诈骗文本生成智能化、虚假情报海量化、新型攻击隐蔽化等会对网络安全造成极大的威胁。


有专家认为,ChatGPT等工具有望降低准入门槛、扩大恶意黑客的群体规模,将恶意软件攻防提高到一个新的水平。随着ChatGPT和其他语言生成模型的不断发展,将会给网络安全行业带来巨大影响。


如何应对ChatGPT可能带来的数据泄露问题、恶意软件与黑客攻击等问题,也将成为我们不得不面临的挑战。未来,需要加强对以ChatGPT为代表的语言生成模型的监控和防范。


以ChatGPT为代表的语言生成模型的好坏取决于对其使用的目的。换个角度看,以智反智,又或许将给网络安全行业带来大量新机遇。

 5.png



国内各类“山寨”ChatGPT应运而生,在淘金的同时,安全问题亦不容忽视。


随着ChatGPT的爆火,市场上出现多款摹仿ChatGPT功能的产品,其中多个公众号注册成立不足一周。


类似的盗版ChatGPT不仅会利用淘宝、闲鱼等获客,还会在各平台的ChatGPT相关内容下留言引流——将用户导至公众号完成关注量转化。甚至在闲鱼上,“开发搭建ChatGPT国内版本”也都成为了受人追捧的生意。


640.png

在追逐热点的同时,也务必要注意数据安全问题。在使用ChatGPT时,不要暴露个人敏感信息及企业或国家秘密。而面对诸多山寨版本ChatGPT更要提高安全意识,不要被不法分子获利。

最后,改编《流浪地球》里的一句话来诠释这场热度:


 起初,没有人在意,直到ChatGPT和每个人息息相关。


在网络安全领域,让我们继续关注ChatGPT的迭代与发展,并为到来的一切做好准备。



本文作者:中孚信息

本文为安全脉搏专栏作者发布,转载请注明:https://www.secpulse.com/archives/196133.html

Tags:
评论  (0)
快来写下你的想法吧!

中孚信息

文章数:11 积分: 8

中孚信息深耕信息安全保密领域,积极推进国家网络安全强国战略,成为全国数字安全领域的旗舰品牌!

安全问答社区

安全问答社区

脉搏官方公众号

脉搏公众号