GPT-4

2023.03.17 7阅读 评论数 0 3

伟人:人民,只有人民,才是创造历史的动力。


GPT-4本周发布,能力大幅升级。


OpenAI的新一代通用人工智能GPT-4正式发布。


基于上一代的GPT-3.5的升级版。


ChatGPT与GPT-4区别在那有3点:

①GPT-4是一个多模态大模型。


【多模态】指的就是有很多种信息输入的方式。


ChatGPT,只支持文字输入。


GPT-4不仅支持文字,还支持图片。


前面那个chat没了…


意思是不仅可以跟它聊天,还可以给它看图,通过图片来下达指令。


如:可手绘一个代码草稿,交给它就能把完整的代码给写出来。


②GPT-4比上一代更聪明。


在律师模拟考试中,上一代的ChatGPT排名在倒数10%左右。


而GPT-4的排名在前10%


相当于几个月没见,从学渣变成了学霸,而且水平超过了90%的人类考生。


③GPT-4局限性。


对于一些刚刚发生的事实,缺少数据。


要是涉及这些内容,它会答得乱七八糟。


上一代ChatGPT一直存在的,一本正经地胡说八道的问题,在GPT-4身上,依然部分存在。


对GPT-4,总体还是很看好的。


据说OpenAI的一位联合创始人说:


GPT-4并不完美,但认知正在堤升。


当然,有人踩油门,就有人踩刹车。


有人担心,照这个速度发展下去,人类是不是离失业就不远了?


其实,AI会不会一直快速发展得先弄清,到底是哪些因素,那些限制AI的发展?


难道限制AI发展的是技术吗?

错!

AI发展面临一个更明显的刚性约束是【硬件】


一切恐惧都来自于火力不足。


在打硬仗面前,战术类智力固然重要,但火力硬件才是最重要的。


AI发展上,很大程度上也取决于硬件资源能不能跟上。


第一是芯片。


GPT对芯片的需求是极大的。


GPT-3.5训练,需要用英伟达的高端GPU芯片,叫A100。


一颗A100的成本,大概是8万人民币。


完成整个训练过程,需要三万颗A100芯片。


问题的关键是,GPT在长大的过程中,胃口可不是线性增长的,而是指数级增长的。


当年战胜李世石的AlphaGO训练时只用了176颗GPU。


照这个速度成长,GPT的胃口能有多大?


芯片能跟上吗?


2023年台积电二季度订单不足,正为产能过剩发愁,突然忙起来了。


因为接了大量用于AI的芯片订单。


AI的尽头是半导体。

第二是能源!AI对电的消耗非常大。


ChatGPT,仅训练一次,就消耗90多万度电。


相当于1200个中国人,一年的生活用电量。


要知道,训练它可不是一次就够,需要很多次。


现在仅是维持日常运转,每天的电费大概就要5万美元。


训练一个AI模型,因发电而排放的二氧化碳量,大概相当于五辆燃油车,从生产到报废,整个生命周期产生的二氧化碳总和。


学科提出:要改进人工智能的底层设计,让人工智能模拟人脑思考,来降低能耗。


人脑虽然消耗能量,但总归比AI能耗低得多。


这只是一个设想,怎么做,还在研究中。


第三是特别耗人。


注意!不仅是科学家,AI训练中更基础的工种,叫数据标注师。


数据标注师的工作是:让AI识别猫!


就是让人来手工标注。


在图片上把猫标出来,让AI一个一个去认。

直到它能弄明白,到底什么白猫、黑猫…


训练AI靠的就是海量的人工标注图片。


普林斯顿大学的华人科学家李飞飞,为训练AI,通过亚马逊在线众包平台,通过全世界167个国家,雇佣了5万人,一共标注了1500万张图片。


ChatGPT训练分三个阶段,只有第三阶段不需要标注,前两个阶段都需要大量的人工标注。


因ChatGPT的数据是从网上采集的,里面数据太杂,包含一些暴力、犯罪或者反人类的内容。


要把这些内容过滤掉!得靠人来手工标注。


2023年1月美国《时代周刊》报道.帮ChatGPT标注有害内容的主要是肯尼亚人。


平均每人每天要标注将近200段文字。


有人做了估算,截止到2022年,全球从事数据标注的人数,已有500万。


这个数字在继续增加中。


一提到技术都觉得,决定它发展的首要因素,是科学水平。


事实上,硬件资源才是更底层的刚性基础。

18世纪的奥地利,有人发明了一台自动下棋机。


下棋水平比真人还高。


哪来这么先进的技术?


最后一查发现,原来这个机器里,藏着一个真人棋师。


神乎其神的技术,能力来自很多未被察觉到的,特别基础的人努力。

甘草医生声明:

本文仅供学习用,版权归相关权利人所有,未经授权,严禁转载。我们尊重原创,若您转载本文,请先征得版权相关权利人同意,并注明:来源甘草学园论坛与原作者姓名。文中方药仅供参考,请在专业中医师指导下辨证用药,切勿擅自试药!若因版权纠纷、擅自试药等引发问题,后果自负。涉及隐私、版权等各类问题请联系客服人员处理。

武邵 资质认证 +关注
评论
没有更多评论

相关板块文章

最新文章

  • 学医二十年,外治解迷途 李晓华

    近十年来,感恩遇见,感恩《遇见中医》,感恩遇见中医后的十八大,借此“大风”,传彼“大学”。忆及二十年前,己卯年,壬申月,吾秉前辈家人之愿,传“一根银针、一把草药,救死扶伤”之志,始入医门。

  • 拿-捏… 武邵

    人们喜欢捏塑料泡泡,是一种性爱的冲动。捏一把、揉一揉、咬一口…看到可爱的东西就想捏,也属于双态反应。原来爱与性的神秘东西就想捏,是一种非常合理、非常正常的生物本能。人所看到的每一事物…最初时一定是某种问题的解决方案所看到的…适度性爱地捏一下,挺好!

  • 学好中医,造福百姓! 宗琪

  • 自愈力 武邵

    黄芪先熬水,然后煮饭,一天量在100克内激发胃肠道自愈力:胃肠道细胞是人体更新速度最快的细胞,平均一两天就会更新一次。用食-为胃部自愈力激发提速。肺部自愈烟雾等严重污染会加重肺脏负担,破坏自我修复.视黄酸有助于肺脏自愈激发。

  • 打膈与碳排 武邵

    从牛的打嗝放屁,科学家认真研究,来减少温室气体的排放。因此,让牛少打嗝,少放屁,是一个特别严肃的环保课题。让牛吃进去,在很大程度上,减少甲烷的呼出与排放。这个数字,是人类所有碳排放的0.4%①是做饲料添加剂。

  • GPT-4 武邵

    GPT-4本周发布,能力大幅升级。OpenAI的新一代通用人工智能GPT-4正式发布。而GPT-4的排名在前10%相当于几个月没见,从学渣变成了学霸,而且水平超过了90%的人类考生。对GPT-4,总体还是很看好的。据说OpenAI的一位联合创始人说:GPT

  • 浅谈小儿抽动症 杨文丽

    小儿抽动症具体病因不明,中医认为主要和肝有关临床上小儿抽动症我都是采用纯中药治疗,主要为息风止痉,平肝熄风药物治疗,疗效可靠,治疗及时预后很好,很多孩子不再复发。

  • 医治有缘人 杨文丽

    中医医生和西医医生最大的区别就是中医医生使用中药,好的中医会自己开方子对症给患者用药,通过患者用药后的改善情况调整治疗方法和思路,目的就是解决患的痛苦。

  • 中医病案中的人文关怀 于长振

    中医一度被质疑为人文学科,而非自然学科。在这种基础上,尤其是西医的大趋势下,常常中医也被牵引的关注于指标,关注于客观事实。西医的病历书写,是客观的书面的语言,就是症状体征化验用药。从中医病案的书写中,体现出来的更详细的治疗过程,实际是正是人文关怀的一部分。

  • 脾肾阳虚泄泻一例 杨文丽

    所以中医讲未病先防,既病防变,就是没有严重疾病但是要及时调整,把身体调整到正常状态,有了疾病要防止疾病向更严重的方向发展,上述病历的脾肾阳虚泄泻,如果不能得到很好的控制,也会进一步发展引起心阳不振,出现心脏的不适症状!

相关方剂文章