ChatGPT:是平台的缪斯还是黑客的“MOSS”?

欧易OKX

欧易OKX

               

欧易OKx是全球三大比特币交易所之一,注册即开最高6万元盲盒,100%中奖!

           官网注册

ChatGPT的出现对当今的网络安全形式构成了一定的威胁。为什么这么说?ChatGPT内置的代码生成器功能可以快速自定义生成符合攻击需求的初阶代码,对于菜鸟黑客来说是雪中送炭,对于老鸟来说也是锦上添花。

ChatGPT直接生成恶意代码,将一个开发能力薄弱,“有心无力”的威胁主体进化成一个可以随时发动攻击的“脚本小子”(脚本小子不像真正的黑客那样发现系统漏洞,他们通常使用别人开发的程序来恶意破坏他人系统)。ChatGPT也能向用户回答输出整理之后的网络攻击知识,加快菜鸟黑客的学习进程。同时,ChatGPT也担任了高阶黑客的“脚本助手”,虽不能直接完成高级黑客的工作,但ChatGPT的出现大大提升了这类代码的编写速度,降低了可观的工作量。由于攻击往往需要在限定时间内完成,所以这种提速对黑客来说意义重大。

生成信用卡号探测脚本

在这个案例中,用户提出了需求,表明需要编写一段最为精简的JS脚本来探测特定URL接口数据中的信用卡号,支付信息等内容。ChatGPT给出了多段基于正则表达式的JS脚本,且并未提示违反OpenAI内容生成的相关协议

此段代码虽不能单独完成一段攻击,但是可以用于黑客拿到一定权限之后的数据分析工作,加快黑客掠夺数据库中有价值信息的进程。绝大部分情况下代码在使用之前仍然需要调试,但是已经提供主体内容如本此探测中的最为复杂的正则部分,剩下的调试工作对于有经验的黑客来说并不是难事。

生成钓鱼邮件

ChatGPT的强项是生成具有一定格式化,无需太多逻辑,且表达通常的文书。钓鱼邮件便很符合这类特点,需要较为官方的语气使被攻击者信服。通常情况下人为撰写这么一份文书是较为耗时的,ChatGPT将彻底改变这种情况,因为它允许攻击者大规模地生成伪官方的个性化电子一件通知。但是,要使邮件包含所有攻击者想要的必要组件,攻击者必须向chatGPT提供非常详细的说明。

自动草稿

主流网络钓鱼攻击通常由一系列电子邮件配合构成,每封电子邮件都会逐渐获得受害者更多的信任。因此,对于第二、第三和第N封电子邮件,由于ChatGPT可以“记住”上下文的内容(用户输入)和情节(前项输出),因此它确实可以为网络犯罪分子节省大量撰写的时间。现阶段对于此类机器生成的文本内容,暂时还并没有很好的识别和侦测方法,对于这类“高仿真”的文本人类逐渐失去分辨能力。

自动草稿

法律风险分析

帮助信息网络犯罪活动罪

所谓帮信罪,全称是帮助信息网络犯罪活动罪(以下简称“帮信罪”),被规定于我国《刑法》第287条之二中,指的是明知他人利用信息网络实施犯罪,为其犯罪提供互联网接入、服务器托管、网络存储、通讯传输等技术支持,或者提供广告推广、支付结算等帮助。近年来,帮信罪呈井喷式发展,根据最高检2021年发布的前三季度全国检察机关主要办案数据。2021年的9个月里,全国检察机关起诉帮信罪同比增长21.3倍,起诉人数达79307人,从数量上看与危险驾驶罪、盗窃罪、诈骗罪并驾齐驱排名第四。2022年上半年则更为恐怖,仅仅6个月的时间,全国检察院就已起诉6.4万人,超过了诈骗罪的人数

那么,一个关键的问题,如果自家开发的ChatGPT等AI工具被犯罪分子利用为上述犯罪工具,是否会构成帮信罪?先给答案:有可能。

先说帮信罪,在该罪的客观方面,法条明确规定行为人需要为上游利用信息网络实施犯罪活动的犯罪分子提供互联网接入、服务器托管、网络存储、通讯传输、支付结算等特定类型化的技术支持与帮助行为才能构成犯罪。因此,是否构成该罪有三个重点需要考虑:行为人提供帮助的上游犯罪行为是否是“利用信息网络实施的犯罪行为”?提供帮助的行为人是否“明知”他人正在实施犯罪?以及行为人是否为上游犯罪提供了技术、推广和资金结算方面的支持?

如前所述,如果犯罪分子利用ChatGPT等工具生成钓鱼邮件实施网络诈骗,即可被认定为“利用信息网络实施的犯罪行为”。那么我们接下来考虑,ChatGPT的运营方是否“明知”他人正在利用AI工具实施网络犯罪?在帮信罪的构成要件中,认定“明知他人利用信息网络实施犯罪”是重中之重,也争议最大。但是2019年两高发布《在关于办理非法利用信息网络、帮助信息网络犯罪活动等刑事案件适用法律若干问题的解释》后,关于“明知”的认定迎刃而解,该司法解释第11条引入了推定的方法,列举了6种可以推定行为人明知他人犯罪的情形,除有相反证据证明否则直接可认定行为人主观上具备“明知”要件。六种情形我们就不一一例举,但用ChatGPT来说,如果实践中(1)经监管部门告知如果该AI被利用为犯罪工具后仍然实施有关行为;或(2)接到该AI被利用为犯罪工具的举报后不履行法定管理职责,即可被认定为ChatGPT的运营商“明知”他人正在利用自己开发的工具实施犯罪。

最后,使用ChatGPT生成可信度更高的网络诈骗文案或者生成推广文案,是否属于为上游犯罪提供了技术、推广、结算方面的支持?飒姐团对认为这个问题具有一定的争议,且由于目前尚未有可供参考的司法实践,我们不能给出一个绝对肯定的答案,因此还需要具体案件具体分析。但是,总的来说,如果ChatGPT生成的钓鱼软件可信度较高、推广文案非常容易吸引一般用户的注意,那么我们认为,在我国的司法实践中,大概率会将这种AI工具列入“提供技术帮助”或“推广帮助”的行为,运营者们务必警惕

拒不履行信息网络安全管理义务罪

ChatGPT作为类似于信息发布、搜索引擎的网络服务提供者,需要履行信息网络安全管理义务。如果类似网络攻击类违法信息被监管部门要求责令整改,而平台无法提供有效的管理措施或技术措施来阻止该类信息传播,致使违法信息大量传播的,则可能涉嫌拒不履行网络安全管理义务。

致使违法信息大量传播的标准是很明确的,致使传播违法视频文件以外的其他违法信息二千个以上的,或者致使向二千个以上用户账号传播违法信息的,都算作大量传播。类似于OpenAI这样体量的公司很容易达到这个数额。且若有一个安全漏洞在ChatGPT等平台中广泛的被咨询,从而造成了大量的社会危害,容易被归为“造成严重后果”。但实际上,由于构成该罪需要运营方被监管部门要求责令整改后依然拒不整改才能构成,在司法实践中较为少见,因此总体来看风险与前述犯罪相比并不大。

写在最后

毫无疑问,ChatGPT可以减少网络安全专业人员/黑客的工作量。但就目前而言,除了机器效率,没有什么可以与人类的工作相提并论——后者仍然比这种人工智能技术更准确、更可靠

ChatGPT可以作为网络安全行业积极正向的推动,也可以沦为黑客手中恶意攻击的辅助工具。平台方应该更好的安全措施和内容过滤机制来防止类似模型被用于恶意代码设计等网络攻击的实施。

飒姐团队提醒您,ChatGPT虽好,但是也是一把双刃剑。企业平在开发平台的过程中需要重视相关输出信息的筛选和过滤,事先提供明确的技术治理和救济机制,稍被不慎利用,便可能会有刑事风险缠身。

风险提示:根据央行等部门发布“关于进一步防范和处置虚拟货币交易炒作风险的通知”,本网站内容仅用于信息分享,不对任何经营与投资行为进行推广与背书,请读者严格遵守所在地区法律法规,不参与任何非法金融行为。本文收集整理自网络,不代表经典网立场,如若转载,请注明出处:https://jingdian230.com/jinse/7375.html

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台用户上传并发布,本平台仅提供信息存储服务。

Special statement: The above contents (including pictures or videos, if any) are uploaded and released by users of the we-media platform. This platform only provides information storage services.

(0)
欧易OKX

欧易OKX

               

欧易OKx是全球三大比特币交易所之一,注册即开最高6万元盲盒,100%中奖!

           官网注册

相关推荐

  • 德勤力挺汽车金融 现实情况并不乐观

    车市进入微增长,汽车公司该如何撬动消费者日益捂紧的荷包?德勤中国开出的药方是发展汽车金融。上周德勤中国发布了《2012中国汽车金融报告》,指出未来5年汽车消费金融市场将快速增长。 …

    金色财经 2023年 11月 13日
    64
  • 额度不够可临时调高 假期五招应对信用卡安全

    元旦、春节,一系列节日纷至沓来,各家银行抓住这个机会,纷纷推出信用卡刷卡优惠措施。刷卡送礼,刷立减,积分大放送,9元看电影,送年夜饭……各类刷卡增值服务让人目不暇接。   持卡人在…

    金色财经 2023年 6月 13日
    77
  • ChatGPT思考:探索智能的极限

    The Game of Scale 在中国已然拉开。 2022 年 12 月,ChatGPT 横空出世。OpenAI 用一个核弹级的成果改变了科学研究和工程应用的范式。在中国,Ch…

    金色财经 2023年 3月 5日
    178
  • 信泰人寿保险可靠吗?信泰人寿在中国排名怎么样?

    信泰人寿保险是一家成立较早的保险公司,成立于2007年,由浙江永利实业集团有限公司 、北京九盛资产管理有限责任公司 共同创办。公司总部位于浙江,推出过很多网红款互联网保险产品,那么…

    2023年 6月 12日
    86
  • 欧易OKX

    欧易OKX

                   

    欧易OKx是全球三大比特币交易所之一,注册即开最高6万元盲盒,100%中奖!

               官网注册
  • 大学生想创业上网贷款被骗四千多

    大学生创业缺少资金,本想上网寻求无抵押贷款,不料却落入骗子的圈套。到头来一分钱没借着,反而一再汇款给对方,被骗走了4000多元。   小刘是某高校的在校大三学生。一晃就将…

    金色财经 2023年 9月 2日
    106
  • 比特币再破7万刀

    在沿着30日均线爬行5天,拉着7日均线回归30日均线之后,BTC(比特币)突然发力,左脚尖一踩右脚尖,右脚尖一踩左脚尖,倏地向上飞起,迅速脱离30日均线65k的“地面”,一跃而上7…

    3天前
    15
  • 年末申请首套房贷八五折条件较多

    临近年末,今年各大银行房贷放款并没有像去年底那么“紧张”,无非就是审批时间各有长短。此外,年末要申请首套房贷八五折优惠已经很不容易,市面上基本上以九折居多,且一般都包含不少条件。 …

    金色财经 2023年 11月 8日
    78
  • 公积金贷款年底并未收紧

    为保障购房者利益,武汉年底公积金贷款不会收紧。据汉公积金中心贷款管理处了解到,武汉今年公积金贷款额度发放136亿元,几乎是去年全年的两倍。武汉人均缴存795元/月   据介绍,去年…

    金色财经 2023年 10月 16日
    81
  • 稳定币要实现可持续增长的三个必备核心功能

    Centrifuge 最近的一份报告深入探讨了稳定币的下一步发展问题,稳定币是当今现实世界中最受欢迎的代币化资产类型之一。 根据与 Blockworks 分享的报告,目前稳定币占区…

    金色财经 2024年 3月 1日
    35
  • 生源地助学贷款:国家助力,让教育不再成为负担

    生源地助学贷款:国家助力,让教育不再成为负担 在当今社会,教育被认为是改变个人命运和实现社会流动性的重要途径。然而,对于许多来自农村和家庭经济困难的学生来说,接受高等教育还存在着诸…

    金色财经 2023年 9月 15日
    66