ChatGPT——AI技术时代的双刃剑

时间:2023-05-27  发布者:sdszbzz 

当前最前沿的技术莫过于引起广泛关注的ChatGPT了,虽问世不久但其技术更新之快,与各个软件集成之多令人震撼不已。随着衍生出的越来越多的新技术研制而出,AI技术的浪潮正在飞速向我们袭来。
当谷歌的新产品在IO大会上大放异彩的时候,大家正试探着手机里的ChatGPT App,而微软又向我们抛出了连环的重磅炸弹——Windows的AI集成、贯穿整个操作系统的Copilot助手、可以随意调用各个功能的插件甚至有50个之多。

01 人人“钢铁侠”的时代

琳琅满目,应接不暇的AI产品让每一个普通人都有可能走进“钢铁侠”的时代。

可以想象一下:每天早上会有AI床在前一天设置的起床时间将你唤醒,紧接着AI音响会向你汇报你一整天的行程。提前设置好的AI早餐机,会做好根据你的身体所定制的科学营养早餐。用餐完毕后,你的一句语音就能将整个屋子的AI设施全部安排就绪——扫地机器人、洗衣机机器人,均会按照你的规划去执行当天的任务,而这一切仅仅需要你动一下嘴而已。紧接着是你出行要面临的驾驶,准确来说应该是乘坐着无人汽车准时来到公司,AI汽车已经提前规划好行程路线,结合实时路况分析,完全不用担心拥堵迟到的问题。来到公司,打开电脑,语音输入今天的工作指令,而你则端着提前就煮好的咖啡静待结果,并提交修改指令即可。一整天的会议,都会通过AI智能生成相关的记录与讨论结果并形成日程提醒进度。一切都在AI的协助下有条不紊的进行中。

这样的生活,大家是否对此有些憧憬,相信用不了很久就即将实现,但是写到这里,我有点隐隐后怕.....

02 AI“双刃剑”

技术带来的便利性确实粲然可观,但是这也是一把双刃剑,相信大家都看过不少科幻片,相应的剧情耳熟能详:AI机器人逐渐有了自己的意识,开始反驳人类,不听指令,甚至加害人类……这时有人会说,哪有这么邪乎,毕竟是人类研发出来的东西,还能修炼成精?当然作为生成式AI工具,ChatGPT拥有强大的数据读取以及训练功能,但同时数据安全问题也成了演变过程中,衍生出来的一项突出问题,众所周知的三星就深受其害。

03 深受其害的企业

一开始,三星是全面禁用ChatGPT的,直到今年三月中旬才开始允许部分部门使用。但没想到这个决定暴露了ChatGPT的大问题,短短不到20天的时间,就曝出三起泄露敏感信息的事件,其中甚至还包含一些设备测量,产品合格率等机密数据,皆已经被录入到ChatGPT 的学习资料库中。

这些数据一旦落入其它用户甚至竞争对手手里,可以说是非常危险的一个行为。为了改善ChatGPT数据泄露带来的不良影响,三星也开始着手研发自己的ChatGPT程序作为应对措施。

04 社会层面的影响

数据泄露是一方面,如果要形容一下ChatGPT的性格,那顽劣这个形容词简直不要太恰当,不少用户反应,一些求证的问题会出现东拼西凑、断章取义的情况,而这些行为,竟然都不是初犯。

三月初的时候,它曾给美国一位法学院教授,莫名其妙的加上了“曾对他人性骚扰”的罪名,并在其它场景下进行了不恰当的引用。这里我个人猜测,有可能ChatGPT在学习法学院教授的一些案例时,对案例中的行为理解时产生偏差,从而将讲述的第三者视角总结为第一视角,也就是说某些行业的一些案例会被ChatGPT张冠李戴成主人翁,简直不要太离谱。

一些不法分子利用工具去做一些违法乱纪的事情,前段时间,东莞的一名男子,为吸引眼球,博取流量,用ChatGPT工具搜集整理了近些年热点新闻时间,并加以改变上传社交平台挣取非法收益。后续结果是他由于误导读者,影响网络环境而被警方抓获。

05 对人的影响

当然,最危险的还是我们,ChatGPT的推广,让越来越多的工作门槛逐渐降低,不少公司引入其之后,本着降本增效的原则,淘汰了不少岗位。有不少创意岗位,都面临着思路枯竭的那一天,但在ChatGPT面前,创意是可以批量复制的。

因此一旦工作内容大部分是量化的,可复制的内容那ChatGPT 的引入势必会针对此类岗位,带来一大波裁员风暴,未来很多岗位,确实有被替代的风险,而且很大。
科技确实是一把双刃剑,想起小时候,电脑刚普及,网吧刚问世的时候,家里人担心沉迷猝死,不让去网吧,不敢买电脑,如今想起来也是一笑。现在新的革命性技术问世,更何尝不是大家手中的一把“妖刀”呢,用的好,你就是刀,用不好,刀就是你。

信息来源:智邦数智化研究院(微信公众号)

640.png

版权所有:山东省装备制造业协会 鲁ICP备17016783号